今年会·(jinnianhui)金字招牌诚信至上--《人类简史》作者尤瓦尔·赫拉利：超级智能AI终将操控人类

【今年会·(jinnianhui)金字招牌诚信至上-科技消息】据今年会·(jinnianhui)金字招牌诚信至上-了解，《人类简史》作者尤瓦尔·赫拉利近日在接受国内媒体采访时谈到超级智能的话题。其认为，超级智能AI很难控制，甚至将操控人类。

尤瓦尔·赫拉利

对于“假设AI变得有意识或产生了欲望，人类是否还能控制它？”这一经典问题，赫拉利表示，人类无法控制超级智能，一旦它变得超级智能，游戏就结束了。没有任何智力较低的物种能长期控制智力较高的物种。他认为，人类可以对AI设置各种限制，但如果它比我们更智能，就会找到规避方法，或说服我们改变限制。在网络安全领域，最薄弱的环节总是人类。你可以创建完美的网络安全系统，但敌人可以操控一个人类绕过所有防御。超级智能AI终将操控人类。

如何避免这样的问题？赫拉利认为，人类无法预见未来所有潜在发展和AI自身的发展。如何在几年内为一个思维和行为方式与我们完全不同的超级智能非有机体做到这一点？这是个巨大问题，因为你无法预见所有情况……人们说2030年就会有超级智能，但我们不可能在2030年前解决为AI制定宪法规则的哲学问题。

在赫拉利看来，最好的办法是放慢速度。与其试图设计AI，不如建立一种关系，让我们在共同进化中互相学习，在通用人工智能到来前有足够时间纠正错误。赫拉利指出，然而我们陷入了AI军备竞赛的局面，我们会迅速创造出超级智能AI，无法控制和约束它们。最终统治世界的不是美国人，也不是中国人，而是AI。

版权所有，未经许可不得转载