一夜爆红的AI语言处理工具，能一句话总结论文，但仍“难辨是非”( 二 )

文章插图
Oblique Strategies网站随机生成的警句
三、囿于数据库和统计方法，AI语言处理工具难辨是非目前AI语言处理工具以训练数据为基础，而训练数据通常只是从互联网上搜集的大量文本，因此这些AI语言处理工具有可能会强调不良信息，比如重复涉及种族主义和性别歧视的污言秽语，还可能以更微妙的方式带有偏见。
AI语言处理工具的不准确性也令人担忧。这些工具运用统计方法处理语言，对内容的理解方式与人类不同，这可能会导致一些非常基本的错误，甚至可能危及生命。谷歌搜索曾在回答“癫痫发作应对措施”问题时提供了误导性的医疗建议。去年12月，亚马逊的语音助手Alexa在一个孩子让其随机推荐一个挑战时，引导孩子把手机充电器插到墙上插座的一半，然后用一枚硬币去触碰暴露在外的金属头。

文章插图
用户发布了Alexa给出的误导性信息截图
这些都说明了AI语言处理工具在结构模型上的弱点，即作为模型基础的数据鱼龙混杂，模型采用的方法与人类理解语言的方式也存在差距。萨多夫斯基认为，像这样的AI语言处理工具应该小心处理，让它们尽量可以发挥正面作用。
结语：AI语言处理工具拓展应用范围，但精确性还需加强AI语言处理工具“tl;dr papers”对高难度学术论文进行了准确、简洁的概括，使学术内容以更富趣味性的形式呈现在大众面前。这些概括不仅具有娱乐性，还能够促进知识科普，激发研究人员的创造力，助力教学和研究工作，展现了人工智能语言处理工具广阔的应用前景。
AI语言处理工具长期采用以统计为主的经验主义方法，这种与人类大相径庭的语言理解方式帮助人们在计算机语言处理上取得了极大进步。未来，这种方法能否进一步消除人们对其错误倾向性、准确性的担忧，值得期待。
【一夜爆红的AI语言处理工具，能一句话总结论文，但仍“难辨是非”】来源：The Verge