open这个能写游戏的AI，被玩家教会讲“荤段子”惹了大祸( 三 )

Latitude并没有透露涉及成人内容的具体游戏比例，而OpenAI的官网显示，《AI地下城》每天吸引的玩家数都超过2万人。
一位《AI地下城》玩家甚至还在上周发现了游戏的漏洞，它可以让所有人都公开访问每一个故事。他说，自己在4月份的4天内下载了数十万次冒险，分析了18.8万份样本，发现31%的样本中包含带有暗示的露骨字眼，这个漏洞并未被修补。
Latitude现在面临的挑战在于，重新赢得用户信任的同时，满足OpenAI对文本生成器更严格控制的要求。OpenAI一名发言人表示，这家初创公司必须使用OpenAI的过滤技术。
如何有效部署吸收了大量互联网文本的AI系统，已经成为人们在人工智能研究领域的热门话题。语言模型的使用越来越广泛，比如在谷歌搜索中，它可以帮你理解长内容的含义。
不过，华盛顿大学研究院Suchin Gururangan说，“你很难知道这些模型将会如何表现”。他与维斯康星大学和艾伦人工智能研究的研究人员一起参与了一项调研报告和互动在线演示，结果显示，当从网络上借用的文本被用于5种不同的语言生成模型时，包括OpenAI在内，所有模型都会产生有害的文字。
对于“互联网终极未来”元宇宙而言，AI技术是批量产生内容、丰富元宇宙和人们体验的重要手段。但从《AI地下城》暴露的问题来看，如何对AI语言系统施加更多的控制，包括它们学习的资源出处等，都还需要更多的探索，虽然AI机器学习技术已经可以用于游戏创作和变现，但如何恰当控制AI生成的内容，也将是同行们躲不开的话题。