这个能写游戏的AI，被玩家教会讲“荤段子”惹了大祸

作为可以批量化产出内容的技术，随着元宇宙Metaverse概念的升温，AI技术最近又在科技界和游戏行业成为了热门话题。
随着机器学习技术的提升，AI不仅可以写文章、写代码、甚至还更懂如何撩妹。不过，该技术最近也遇到了一些比较棘手的问题，虽然可以从庞大的数据库学习全方位的内容，但由于缺乏人类思考而生成了儿童低俗内容，一款AI文字冒险游戏遭到了人们的质疑和玩家的反对。
这就是美国初创公司Latitude此前发布的《AI地下城（AI Dungeon）》。
与AI一起写故事：《AI地下城》到底是啥？
在2019年12月的时候，犹他州初创公司发布了一个具有开拓性的在线游戏《AI地下城》，展示了一种新形式的人机协作方式。该公司使用来自人工智能技术公司OpenAI的文字生成技术，让玩家创造类似《龙与地下城》式的定制化冒险游戏。

《AI与地下城》是一个比较特别的游戏，它需要玩家一直联网，但创造的内容大多数都是单机冒险体验，在游戏过程中，玩家们还可以公开分享自己的文字游戏过程。你可以学则到不同的世界冒险，也可以选择多人游戏。

每个世界都有着不同的特点、设定和背景故事，其中一些世界为免费体验，还有些世界则需要玩家付费才能参与冒险。

比如笔者选择的Winterbloom就是个梦境版的童话世界，人们用漂亮的灯和蜡烛装扮自己的家，每个人都与他们的好友及家人玩游戏。
不过，除了世界选择界面出现的图片之外，玩家们进入游戏之后面对的就是纯文字内容。

首先是选择角色，包括名字、性别、种族、出生地等大量细节内容。开始游戏之后，玩家输入单词或者句子以表达自己将要进行的动作或者讲述想让角色想说的话。
AI随后会根据玩家输入的内容，自动随机展开个性化的冒险。所以从操作来说，只要会打字就可以玩这款游戏，但对于追求视觉表现的用户而言，《AI地下城》的吸引力或许没有那么大。
不过，对于喜欢剧情和角色冒险故事的玩家们来说，你几乎可以在这款游戏里体验到没有上限的故事数量，甚至还可以根据自己的想象，与AI一起写小说。
AI也讲“荤段子”：玩家故事出现儿童低俗内容
OpenAI在2019年的时候将其文本生成技术开源，在程序员通过它产出流畅的笑话和代码之后，该技术迅速引起了科技界的关注。
去年暑期，OpenAI给了Latitude工作室一个更强大的商业版本（GPT-3），并且将《AI地下城》作为GPT-3写作算法技术创意和商业潜力的典型案例。OpenAI表示该服务将会增强企业和初创公司的能力，并向OpenAI母公司微软授予基础算法的独家许可。不过，测试者们发现，该技术可能生成令人厌恶的结果，比如反犹太言论和极端主义宣传。
一个新的监控系统显示，一些玩家输入的单词导致游戏产出一些和儿童相关的低俗内容，OpenAI公司要求Latitude立即对此作出反应，并表示该公司将仔细审查客户以剔除不良行为者，还要求大多数客户（不包括Latitude）使用其打造的过滤器来防止亵渎、仇恨言论或低俗内容。OpenAI公司CEO Sam Altman在声明中提到，“内容审核决策某些情况下是很难的，但这类内容坚决不允许，这不是我们希望AI未来要做的事情”。
2019年12月，也就是该游戏使用早期开源版的当月，该游戏获得了10万玩家数。一些人很快发现它可以产生非常流畅的性内容，其他人则抱怨在不必要的情况下生成了性主题相关内容，例如，当他们试图骑龙旅行的时候，冒险过程发生了意外的转折。