DeepMind首席科学家：比起机器智能，我更担心人类智能造成的灾难( 二 )

文章图片
当时他零花钱不够时，就会来我所在的镇里，参加比赛，赢走50英镑的奖金，然后回家。后来，我们在剑桥认识了，并一起成立了一家游戏公司Elixir ，现在我们一起回到了DeepMind 。
这种对游戏的迷恋，教会了你解决问题的哪些方面？
一方面，我们相信自己拥有所谓「创造力」的特殊能力，而AI算法并没有这种能力。实际上这是一个谬论。

文章图片
现在，在AI中已经看到了创造力的端倪。 2016年AlphaGo对阵李世石的第二局比赛中， AlphaGo执黑下出的第37手，围棋社区中就认为创造力十足，甚至超出了当时人类职业棋手的理解。这说明， AI的确尝试了一些非同以往的新东西。
但是，人类可以将这种广泛的创造力应用于任何事物，而不仅仅是在游戏中吗？
整个试错学习的过程，比如尝试自己去想办法，或者让AI自己去想办法，如何解决问题，这都是一个创造性的过程。 AI从一开始什么都不知道。然后会发现一件新事物、一种创造性飞跃、一种新模式或一种新想法，这有助于比以前更好地实现目标。
现在，你掌握了玩游戏、解谜或与人互动的新方式。这个过程实际上是成千上万个小发现一个接一个累计而成的。这才是「创造力」的本质。
如果AI算法没有创造力，就会陷入困境。 AI需要有能力为自己尝试新的想法——那些人类没有告诉它们的想法。这应该是未来研究的方向，以继续推动通过自我尝试得出「新点子」的系统。
许多人认为，计算机只能在人类业余水平上下围棋。你有没有怀疑过自己进步的能力？
当我参加2016年AlphaGo比赛抵达韩国时，看到了一排排的摄像头，我听说当时有超过2亿人在网上观看，我想当时想「等等，这真的能行吗？」
对手李世乭是一位天才的世界冠军，他会尝试一切手段，将AI程序带入一般不会发生的奇怪情况。

文章图片
我感到很幸运，我们经受住了那次考验。后来我问自己：“能不能退一步回到基础，理解一个系统真正为自己学习意味着什么？”为了找到更纯粹的东西，我们放弃了AI模型中的人类知识，开发出了AlphaZero 。
几千年来，人类已经为围棋制定了众所周知的策略。当AlphaZero迅速发现并拒绝了这些有利的策略时，您是怎么想的？
【DeepMind首席科学家：比起机器智能，我更担心人类智能造成的灾难】我们设置了原版AlphaGo下错的位置（与人类职业选手相比）。我们认为，如果能找到一个让AI自己找到正确位置的新版本，就算是成功了。一开始，我们取得了巨大的进步，但后来似乎就不行了。我们认为AI并没有自己找到正确的20到30手的位置。

文章图片
与我们合作的职业选手樊麾花了几个小时研究这些着法。最后他说，是职业选手下错了， AlphaZero是对的。 AI找到了解决方案，重新评估了最初被归于「错误」的棋。我意识到我们有能力推翻人类认为的标准知识。
这之后，你主持开发AlphaStar ，让AI玩《星际争霸2》。为什么从围棋跳到了电子游戏？

文章图片
围棋是一个相对狭小的领域。要想从围棋入手，扩展到人脑的能力范围需要大量的步骤。我们尝试更复杂的维度，那些人类做得好，但AI做不好的大量领域。