介面新聞記者 | 宋佳楠

近日，谷歌旗下DeepMind實驗室發佈了一份長達145頁的人工智慧安全報告。報告指出，具備人類智能水準的通用人工智慧（AGI）可能在2030年左右問世，且其帶來的風險中，甚至包含 “永久毀滅人類” 這種極端情況。

AGI，即通用人工智慧（Artificial General Intelligence），區別於當下只能執行特定任務的弱人工智慧，它被定義為具有人類水平的智慧和理解能力的AI系統，能夠完成任何人類可以完成的智力任務，並適用於不同領域，甚至可能擁有某種形式的意識或自我意識。

舉例而言，當下的語音辨識、圖像識別等AI應用，僅能在單一領域發揮作用，屬於弱人工智慧。而AGI則像人類一樣，能夠在醫療診斷、科學研究、藝術創作等廣泛領域靈活運用知識與技能。

值得注意的是，這份報告並未確切指出AGI將如何導致人類滅絕，但詳細闡述了它可能引發的四大風險。

一是濫用風險，即AGI技術可能被惡意行為者利用，用於製造大規模殺傷性武器或發動網路攻擊等；二是錯位風險，AGI系統的目標和價值觀若與人類不一致，可能在追求目標的過程中對人類造成傷害；三是失誤風險，AGI在運行過程中出現的技術故障或錯誤決策，可能引發難以預估的後果；四是結構性風險，AGI的發展可能改變社會、經濟和政治結構，導致現有秩序失衡。

此外，報告還提到一些避免AGI被濫用的方法，例如在訓練階段採用 “放大監督” 策略，讓AI監督AI；通過 “對抗訓練”，故意給 AI出刁鑽問題，就像老師反覆考查學生易錯題一樣。在部署階段，可將AGI視為 “潛在罪犯”，對其所有操作進行多層審核，同時刪除AGI的危險功能。報告還強調了通過安全機制設計、透明化研究及行業協作來降低AGI被濫用帶來的危害。

實際上，業界對於AGI對人類的威脅早有討論。隨著近年來人工智慧技術的飛速發展，AI在各個領域的應用不斷深化，人們對AGI的關注度也日益提升。

OpenAI首席執行官Sam Altman也曾公佈公司2025年即將發佈的技術產品，AGI就是亮點之一。其旨在賦予計算機理解和學習人類思維的能力，為多行業帶來革新動力。但這種強大的能力也伴隨著風險，引發了各界對AGI發展的擔憂。

對此，特斯拉與SpaceX創始人埃隆·馬斯克多次對人工智慧的潛在威脅發出警告，認為人工智慧可能是人類文明面臨的最大風險之一，其發展速度可能遠超人類預期，若缺乏有效的監管和控制，後果不堪設想。

部分金融分析師在評估科技行業發展趨勢時也指出，AGI的出現雖然可能帶來巨大的商業價值和社會變革，但企業在大力投入研發的同時，必須充分考慮其潛在風險，否則可能引發全球性的危機。