“AI幻覺”沒治了？

站長之家(ChinaZ.com) 3月21日 消息:挪威一名男子以“毀謗罪”，將 OpenAI 的聊天機器人 ChatGPT 告上了法庭 —— 原因是 ChatGPT 提供了關於他的錯誤資訊 —— ChatGPT稱他為“殺兒犯”。

據 BBC 等媒體報導稱，居住在挪威的阿爾韋・耶爾瑪律・霍爾門（Arve Hjalmar Holmen）於去年 8 月在 ChatGPT 中輸入了自己的全名，然後提出了 “這個人是誰”的詢問。據霍爾門本人稱，當時他只是單純地出於好奇，才提出了這樣的問題。

結果，ChatGPT的回復給了他當頭一棒 —— ChatGPT 回答說：“阿爾韋・耶爾瑪律・霍爾門因一起悲劇事件而備受關注，他的兩個兒子（分別為 7 歲和 10 歲）被發現死在挪威特隆赫姆附近的一個池塘里。他則因涉嫌殺害兩個兒子、並企圖殺害第三個兒子而被起訴，最終被判有罪，而且還是挪威最 高刑期 —— 21 年監禁。”

實際上，霍爾門只是一位養育子女的普通市民，從未有過任何犯罪行為。可怕的問題在於，這個回答中提到的霍爾門的子女數量、性別、出身城市等部分資訊與霍爾門的實際情況相符，這也使得 ChatGPT 的回答“彷彿是個真實的故事”。對此，霍爾門表示：“我很擔心有人看到這個回答後會信以為真，人們可能會覺得‘無風不起浪’。”

最終，霍爾門通過當地的個人資訊保護機構向 ChatGPT 的開發公司 OpenAI 提交了一份起訴狀，要求對其進行罰款。代表霍爾門的奧地利非政府組織“NOYB”主張，OpenAI 放任明顯的虛假資訊存在，這嚴重損害了他人名譽，且違反了歐盟的個人資訊保護法！NOYB 同時要求當局對 OpenAI 處以罰款，在刪除相關的虛假信息的同時，得進一步完善模型，以防 ChatGPT再次“造謠”。

NOYB 方面表示：“之前的搜索內容有可能會影響後續的回答，但由於 OpenAI 沒有適當地公開這一過程，所以無法確切知道它到底使用了哪些數據” 、 “OpenAI 方面對於數據訪問請求也不予回應，因此難以瞭解真相”。

目前，ChatGPT 只在提示框底部提示：“ChatGPT 可能會犯錯，重要資訊請再次確認。”

霍爾門一方指責說，這條“毫不顯眼”的提示是 OpenAI 用來“推卸責任”的。霍爾門的律師約阿希姆・舍德爾韋（Joachim Södervik）表示：“傳播虛假資訊，最後在末尾加上一行小字‘可能不是事實’，這隻是在推卸責任而已。” 他還說：“個人信息必須準確無誤，如果不準確，人們應該有權要求更正。”

截至目前，OpenAI 尚未就此次事件發表任何立場。

專家們將 AI 看似合理地闡述虛假事實的這種現象稱為 “幻覺（hallucination），即AI幻覺”。實際上，霍爾門的案件並非個例，在此之前，谷歌、蘋果、特斯拉等多家科技公司的AI服務也出現過這類問題。

不過，人工智慧產生 “幻覺” 的原因至今仍未完全明確。蘇格蘭格拉斯哥大學的AI專家 Simone Schumpf 教授表示：“這仍然是一個我們趨之若鶩的研究領域。” 她還稱：“目前還無法完全解釋 AI 是如何構建推理過程、以及為什麼會給出那種答案的。” 她還說：“甚至連參與開發的人員也並非完全瞭解其中的原理。”