【CNMO科技消息】據CNMO瞭解，《人類簡史》作者尤瓦爾·赫拉利近日在接受國內媒體採訪時談到超級智能的話題。其認為，超級智慧AI很難控制，甚至將操控人類。
尤瓦爾·赫拉利
對於“假設AI變得有意識或產生了慾望，人類是否還能控制它？”這一經典問題，赫拉利表示，人類無法控制超級智慧，一旦它變得超級智慧，遊戲就結束了。沒有任何智力較低的物種能長期控制智力較高的物種。他認為，人類可以對AI設置各種限制，但如果它比我們更智慧，就會找到規避方法，或說服我們改變限制。在網路安全領域，最薄弱的環節總是人類。你可以創建完美的網路安全系統，但敵人可以操控一個人類繞過所有防禦。超級智慧AI終將操控人類。
如何避免這樣的問題？赫拉利認為，人類無法預見未來所有潛在發展和AI自身的發展。如何在幾年內為一個思維和行為方式與我們完全不同的超級智慧非有機體做到這一點？這是個巨大問題，因為你無法預見所有情況……人們說2030年就會有超級智慧，但我們不可能在2030年前解決為AI制定憲法規則的哲學問題。
在赫拉利看來，最好的辦法是放慢速度。與其試圖設計AI，不如建立一種關係，讓我們在共同進化中互相學習，在通用人工智慧到來前有足夠時間糾正錯誤。赫拉利指出，然而我們陷入了AI軍備競賽的局面，我們會迅速創造出超級智慧AI，無法控制和約束它們。最終統治世界的不是美國人，也不是中國人，而是AI。