rew数据科学家直指DeepMind：“强化学习无法实现通用人工智能”( 五 )

正如行为主义和认知主义之间的对抗，以及反向传播是否足以学习语言学的过去式转换的问题一样，这些简单的学习机制只有在我们忽略了其他往往未被承认的限制因素所带来的沉重负担时才显得充分。奖励在可用的替代方案中进行选择，但它们无法创造这些替代物。只要我们不仔细观察这些现象，只要我们假设一定有某种奖励能强化某种行动，行为主义的奖励就能发挥作用。善于事后“解释”任何观察到的行为，但在实验室之外，它们无助于预测哪些行动即将发生。这些现象与奖励是一致的，但如果认为它们是由奖励引起的，那就错了。
Roitblat 在 Algorithms Are Not Enough: How to Create Artificial General Intelligence 一书中解释了为什么所有当前包括强化学习在内的人工智能算法，都需要仔细制定人类创建的问题和表示。他表示，一旦建立了模型及其内在表示，优化或强化就可以指导其进化，但这并不意味着强化就足够了。同样，Roitblat 补充说，该论文没有就如何定义强化学习的奖励、动作和其他元素提出任何建议。与 Silver 等人的说法相反，他认为奖励是不够的。

参考资料：
https://venturebeat.com/2021/07/10/building-artificial-intelligence-reward-is-not-enough/
https://www.sciencedirect.com/science/article/pii/S0004370221000862【 rew数据科学家直指DeepMind：“强化学习无法实现通用人工智能”】
https://mp.weixin.qq.com/s/5M1kuNp9z83yJkjKTE9m3g