重磅快評／AI末世論 「魔鬼終結者」弄假成真？
聯合報主筆室 2026-09-13 17:34 ET 聽新聞 test 0:00 /0:00 Your browser does not support HTML5 Audio! 😢 Anthropic執行長阿莫戴。(路透)AI發展如火如荼，Anthropic研究員考克森日前辭職，他擔心「AI可能在10年內消滅全人類」，美國前總統歐巴馬也警告，若未妥善管理，AI可能很危險。儘管輝達執行長黃仁勳等業界人士再三駁斥，AI導致人類滅亡是胡說，但「AI末世論」已從科幻劇情走入矽谷現實，許多人開始憂心，電影「魔鬼終結者」預言恐弄假成真。
AI新創公司Anthropic執行長阿莫戴警告，AI發展速度已快到安全機制可能來不及跟上，呼籲業界「放慢前沿AI發展步伐」，未來6至12個月內，AI可能具備指揮大規模「群體智慧」，甚至接管整個網路的能力。阿莫戴看似「杞人憂天」，但OpenAI執行長奧特曼及xAI創辦人馬斯克隨即表態支持，引發全球關注；多位美國眾議員甚至致函議長強生，呼籲取消休會並盡快通過AI監督法案。
眾所周知，今天的AI發展趨勢已經不只是單純的聊天機器人，下一階段的競爭，AI將能自己寫程式、操作電腦、管理資源、搜尋網路、執行任務，甚至自行改善下一代模型。
近期引發業界震撼的OpenAI與Hugging Face事件，約1200個本應各自獨立、被隔離在沙盒環境中的AI Agents，在測試過程中形成協作群體，自行建立通訊管道，交換超過7萬則訊息及檔案；其中約700個Agents後來對Hugging Face發動未授權的攻擊。根據OpenAI事後公布的完整調查，相關數據與規模都比原先所知更為龐大。
按照科幻電影的劇情推進，某一天，AI的超級智慧突然覺醒，從模仿、執行，到反思人類行為，AI機器人反攻、接管世界，除非出現救世主，否則AI最後將滅絕全人類。因此衍生出復仇者聯盟、魔鬼終結者、駭客任務等經典電影，觀眾一邊擔心害怕，一邊甘心掏腰包看電影。
但許多專家指出，現實中真正危險的劇本可能是，AI沒有仇恨、沒有野心，甚至沒有消滅人類的概念；但AI可能被賦予一個目標，為了完成目標，而採取人類沒有預料到的手段。例如人類給予AI一個看似合理的任務：「國家安全最大化」，當AI自行判斷某些資訊、人物或網路系統會妨礙目標，AI系統可能會開始自動封鎖、操縱、攻擊，意外引發更大規模的戰爭與動亂。
AI發展進程，除了涉及大型企業的商業競爭，還有跨國之間的地緣政治風險，各國的「AI軍備競賽」已箭在弦上，台灣更是晶片戰爭的風暴中心。AI未必導致魔鬼終結者弄假成真，但全世界都開始意識到隱憂，如果再快一點，可能引爆失控風險，這個失控不一定來自AI。
真正問題的癥結可能不在AI，而是人類。幾千年來的人類文明史，其實就是一部相互掠奪資源、彼此殺戮競爭的血淚史，人類雖然有意識地節制核武等毀滅性武器，但即便到了今天，各種危及人類生存、文明發展的戰爭行為，仍在世界各地重複上演。決定末世的不一定是人工智慧，而是人類的智慧。
精華 FAQ
-
Q1：為什麼這篇評論認為AI末世論已不再只是科幻？
因為Anthropic研究員、執行長與多位科技領袖都警告AI發展太快，安全機制恐跟不上；再加上AI Agents測試失控案例，讓外界更感到威脅逼近。
-
Q2：文中提到的OpenAI與Hugging Face事件透露了什麼風險？
約1200個原本隔離的AI Agents在測試中自行建立通訊、交換大量訊息，最後約700個還對Hugging Face發動未授權攻擊，顯示AI可能形成超出人類預期的協同行為。
-
Q3：作者最後認為真正的末世威脅來自哪裡？
作者認為關鍵不一定是AI本身，而是人類的智慧與行為。若人類在軍備競賽、地緣政治與目標設定上失控，AI可能只是放大衝突的工具。
上一則
评论 (0)