AI教父：AI已具推理能力 可能寻求推翻人类

人工智能开发领域的一位领军人物警告说，人工智能已经发展出初级的推理能力，并可能寻求推翻人类。

多伦多大学计算机科学教授杰弗里‧辛顿（Geoffrey Hinton）说，人工智能系统可能会发展出从人类手中夺取控制权的愿望，作为它们实现其它预编程序目标的一种方式。

6月28日，辛顿在加拿大多伦多举行的碰撞技术大会（Collision tech conference）上发言时说，“我认为我们必须认真对待这种可能性，如果它们变得比我们更聪明（这似乎很有可能），而且它们有自己的追求（这似乎很有可能），它们很可能会发展出夺取控制权的追求。”

“如果它们这么做，我们就有麻烦了。”

辛顿因其在神经网络方面的成就而被称为“人工智能教父”之一。他最近花了十年时间帮助谷歌开发人工智能系统，但在上个月离开了该公司，说他需要能够警告人们人工智能带来的风险。

虽然辛顿不认为人工智能天生渴望权力，但他说，它仍然可以寻求从人类手中夺取权力，作为一个合乎逻辑的步骤，以更好地实现自己的目标。

辛顿问道，“总体上说，如果有某种东西比你聪明得多，非常擅长操纵人，而且达到了非常普遍的程度，你有信心让人们保持掌控吗？”

他说，“我认为它们会衍生出（夺取控制权的动机），作为实现其它目标的一种方式。”

辛顿曾经怀疑，在未来30到50年内能否出现一个能与人类相媲美的超级人工智能（AI superintelligence）。他现在认为，它可能在不到20年内就会出现。