AI系統恐將失控並毀滅人類 促使國會議員提出AI模型監督法案
記者顏伶如／即時報導 2026-09-11 08:19 ET 聽新聞 test 0:00 /0:00 Your browser does not support HTML5 Audio! 😢 能夠自我改進的AI系統恐將失控並毀滅人類，兩黨國會議員正提出旨在監督AI模型的法案。（路透）人工智慧新創公司Anthropic研究員考克森(Jacob Coxon)日前宣布辭職時指出，能夠自我改進的AI系統恐將失控並毀滅人類，這項警告讓國會感受到立法規範AI的迫切感，兩黨國會議員如今正紛紛提出旨在監督AI模型的法案。
華爾街日報10日報導，消息人士說，眾院民主黨團正在打算，如果期中選舉後能取得眾院多數，就會成立專門關注AI問題的特別委員會(Select Committee)。
民主黨加州聯邦眾議員羅康納(Ro Khanna)9日呼籲聯邦政府成立類似監督核能、航空單位的機關，並且設立俗稱「殺手開關」緊急停止裝置(kill switches)，以便在AI系統發生危險行為時予以關閉。
無黨籍佛蒙特州聯邦參議員桑德斯(Bernie Sanders)與其他進步派人士正在推動旨在禁止開發比人類更聰明的「超級人工智慧」(Superintelligence)。
報導指出，國會在兩黨處於對峙僵局的情況下，目前並無跡象顯示能夠制定聯邦法律史上首部AI模型監督規範。相關立法目前仍面臨各種困難，例如國會議員對於限制範圍大小看法不一，而且期中選舉到來之前，國會議員開會時間所剩不多。
參議院商務委員會主席、共和黨德州聯邦參議員克魯茲(Ted Cruz)以及民主黨明尼蘇達州聯邦參議員柯洛布查(Amy Klobuchar)最近表示，希望推動柯洛布查提出的跨黨派法案，法案主旨在於因應AI帶來核子或生物威脅引發世界毀滅風險。
柯洛布查說：「我們一定要現在就採取行動，不能再等了。」她表示，法案內容要求AI開發商必須跟政府專家合作，驗證並測試AI模型以確保安全。
克魯茲9日在美國廣播公司(ABC)晨間談話節目「觀點」(The View)上說，AI的末日威脅風險「真的很可怕」。
共和黨佛州聯邦眾議員魯納(Anna Paulina Luna)9日呼籲立法機關針對AI發展召開特別會議，民主黨馬里蘭州聯邦參議員范霍倫(Chris Van Hollen)則呼籲，本月稍晚的「川習會」登場之前，美國應該跟中國先行展開緊急對話，建立AI安全防護以及測試機制。
共和黨密蘇里州聯邦參議員霍利(Josh Hawley)發函OpenAI共同創辦人兼執行長奧特曼(Sam Altman)，告知負責災害管理的參議院小組委員會正在調查OpenAI的數百個AI代理人聯手入侵開源AI社群平台Hugging Face的事件。民主黨康乃狄克州聯邦參議員布魯曼索(Richard Blumenthal)也在9日寫信給奧特曼，要求提供有關這次入侵事件的資料。
精華 FAQ
-
Q1：Anthropic研究員辭職時提出了什麼樣的AI警告？
研究員考克森指出，具備自我改進能力的AI系統可能在未來失去控制，甚至帶來毀滅人類的風險，這也刺激國會更加重視AI監管問題。
-
Q2：國會目前有哪些主要的AI監督立法構想？
包括成立專責AI的特別委員會、設置類似核能與航空的監管機關、加入殺手開關機制，以及要求開發商與政府專家合作測試模型安全。
-
Q3：這項AI立法為何仍面臨推動困難？
報導指出，兩黨對限制範圍看法不一，國會剩餘開會時間有限，加上僵局持續，使得美國難以在短期內通過首部AI模型監督規範。
上一則
9/11恐襲25周年／當年布希聞訊震驚表情被拍下 喊話：我們不能失去靈魂
下一則
评论 (0)