数据科学家直指DeepMind，“强化学习无法实现通用人工智能”

作者：学术头条微信公众号
撰文|XT
编审|寇建超
【数据科学家直指DeepMind，“强化学习无法实现通用人工智能”】今年6月， DeepMind首席研究科学家、伦敦大学学院教授DavidSilver及其合作者在一篇题为“Rewardisenough”的论文中指出，人工智能及其相关能力不是通过制定和解决复杂问题而产生的，而是通过坚持一个简单而强大的原则：奖励最大化。
Silver等人认为，简单的奖励是丰富环境中的代理人开发多属性智能的全部需要，而这种多属性智能正是实现通用人工智能所需的全部。
但很显然，并不是所有人都同意这一观点。

文章图片
（来源：VentureBeat）
近日，数据科学家HerbertRoitblat就针对DeepMind团队提出的这一观点提出了反驳意见。在他看来，虽然Silver等人的说法听起来像是一个大胆的主张，但事实上却很模糊，甚至几乎毫无意义。

文章图片
值得一提的是， Roitblat也是AlgorithmsAreNotEnough:HowtoCreateArtificialGeneralIntelligence一书的作者。
产生智能的前提存在误导
据了解，第一个试图证明单一学习机制就足够的重要项目是B.F.Skinner的行为主义版本，以他的VerbalBehavior一书为代表。这本书受到了美国哲学家NoamChomsky（1959年）的严厉批评， Chomsky称Skinner试图解释人类的语言产生是“戏剧表演科学”的例子；第二个主要建议是由Rumelhart和McClelland（1986年）提出的侧重于英语动词过去式学习的建议，但遭到了Lachter和Bever（1988年）的严厉批评，认为他们通过选择的特定方式来表示他们的联结主义系统正在学习转换的单词的音位特性，其中包含使系统成功的特定信息。

文章图片
图：以行为主义研究而闻名的美国心理学家BurrhusFredericSkinner丨来源：Wikipedia
之所以前面的这两次尝试都失败了，是因为他们屈服于确认偏见。正如Silver等人所做的那样，他们报告了与假设相一致的数据，而没有考虑可能的替代性解释，他们将模棱两可的数据解释为支持性的。这三个项目都没有考虑到他们模型中的隐性假设，如果没有这些隐含的TRICS（Lachter和Bever对"其关键假设的表征"的称呼），这些系统中就不会存在“智能” 。
Silver等人更进一步，还提出它足以达到智能，特别是足以解释通用人工智能。 Silver等人的论点可以归纳为以下三个命题：
1.奖励最大化足以产生智能。 “奖励最大化的通用目标足以驱动表现出自然和人工智能中所研究的大多数（如果不是全部）能力的行为。 ”
2.智力是实现目标的能力。 “智力可以被理解为实现目标的灵活能力。 ”
3.成功是通过最大化奖励来衡量的。 “因此，成功是通过最大化奖励来衡量的。 ”
简而言之，他们提出智能的定义是使奖励最大化的能力，同时他们用奖励的最大化来解释智力的出现。继17世纪作家莫里哀（Molière）之后，一些哲学家将这种论证称为virtusdormativa（一种诱导睡眠的美德）。当被要求解释为什么鸦片会导致睡眠时，莫里哀在ImaginaryInvalid中的单身汉（bachelor）回答说，它有安眠的属性（一种诱导睡眠的美德）。当然，这只是对正在寻求解释的属性的命名。奖励最大化在Silver的假设中起着类似的作用。实现目标既是智能的过程，也解释了智能的过程。