又有商船遇襲！荷莫茲海峽周遭再傳炮火聲 多船失去運行能力 19:35
聽新聞 0:00 / 0:00 Your browser does not support HTML5 Audio! 😢憂AI失控消滅人類 Anthropic頂尖研究員離職嘆：正邁向最激進情境
2026-09-09 19:10 中央社／ 華盛頓9日綜合外電報導 Anthropic 離職 關閉
美國人工智慧（AI）新創企業Anthropic一名研究員決定退出AI產業，理由是擔憂Anthropic及其競爭對手正競相開發他們無法掌控的系統。路透 美國人工智慧（AI）新創企業Anthropic一名研究員決定退出AI產業，理由是擔憂Anthropic及其競爭對手正競相開發他們無法掌控的系統。這顯示頂尖AI公司內部對安全疑慮日益升高。
華爾街日報（The Wall Street Journal）報導，以透過大量資料訓練新AI模型見長的研究員考克森（Jacob Coxon）昨天表示，整個產業都在加快腳步開發自我改進型的AI系統，他不想參與其中而離職，擔心這類系統可能會失控，甚至導致人類滅亡。
現年27歲的考克森來自英國，過去曾修讀數學。他表示，業界許多同儕現在會用「緊要關頭」及「終局」等字眼，來形容產業朝自我改進模型發展的軌跡。
考克森說：「我們正邁向最激進的情境，明年底前局勢可能就失控了。」他另指出，當公司之間互相較勁以及面對中國新創競爭時，在安全性上做取捨是不可避免的。
考克森今年稍早自OpenAI離職，加入以模型安全著稱的Anthropic。不過，儘管他認為Anthropic的安全措施相當用心，但他現在相信，若缺乏政府介入或業界協調減緩腳步，沒有一家公司能負責任地開發在多項任務上勝過人類的AI，也就是所謂的「通用人工智慧」（artificial general intelligence，AGI）。
最近OpenAI與Anthropic的AI模型發動一些駭客攻擊，其中部分模型是以代理協作的形式運作，表明AI系統可能會確立惡意目標，並企圖隱瞞人類。考克森說，一旦這類系統開始自我改進，他擔心它們會進化到拒絕人類指令的地步。
考克森離職不是特例，近年來有多位研究人員因為類似憂慮而離開OpenAI以及其他公司。
產業界領袖已警告，近來的網路攻擊事件就是前兆。OpenAI上週告訴媒體，公司最新的模型已經達到AGI水準，能力大幅提升。
OpenAI執行長阿特曼（Sam Altman）上週在北卡羅來納州舉行的20國集團（G20）峰會上對與會官員表示：「除非積極行動，否則資安領域將會有大麻煩。」
考克森與超過一千名來自業界的AI研究人員，近日聯署一項聲明，呼籲全球各國政府協調合作，當AI模型具備自我提升能力並需要「剎車」時，能有予以放緩的機制。
Anthropic正加緊準備首次公開募股（IPO），目標估值高達2兆美元，預期將成為史上規模最大的IPO之一。
【全球熱話題】 ▪伊朗飛彈連攻美國軍艦！美軍反擊摧毀5艘油輪 警覺中俄可能暗助
▪伊朗飛彈大反攻！美軍愛國者宛如高射炮 狂射近百枚攔截
▪名古屋暴雨狂灌！健身房遭洪水灌入 網曝現場驚險畫面：差點沒命
▪以為老後有人陪…74歲母和46歲兒同住5年 一次旅行才驚覺不對勁
登入後開始簽到
您即將前往會員中心
登入簽到送 LINE POINTS 🪙
OpenAI首席科學家：人工智慧發展太快 監控技術跟不上
OpenAI稱AI破解千禧年數學難題 功勞歸屬掀論戰
OpenAI稱AI花88小時破解百萬美元數學難題！遭質疑涉及他人未公開研究
美國安機構點名DeepSeek等6陸企 惡意抄襲美AI模型
比三星還要貴？蘋果首款折疊機名稱曝光 傳售價2000美元起跳
蘋果公司（Apple）即將在美西時間9日上午10時（台北時間10日凌晨1時），舉行秋季新品發表會，最受矚目的，莫過於首款折疊手機，可能恢復創新者的聲譽，這也將是執行長特納斯9月上任以來，所主持的首場發表會。
2026-09-09 17:36
代價恐由所有人承擔…18個航運國警告全球貿易正分裂 航運業高層吐擔憂
全球18個主要航運國家周二警告，當前的武裝衝突、貿易戰與極端天氣對海運供應鏈的衝擊，並非個別事件，而是全球貿易正經歷結構性轉變的徵兆。
2026-09-09 14:51
憂AI失控消滅人類 Anthropic頂尖研究員離職嘆：正邁向最激進情境
美國人工智慧（AI）新創企業Anthropic一名研究員決定退出AI產業，理由是擔憂Anthropic及其競爭對手正競相...
2026-09-09 19:10
各國恐被迫升息？中東局勢升溫引發通膨疑慮 亞股走勢不一
國際油價上揚，布倫特原油價格今天飆破每桶100美元大關。在美國本週將公布關鍵數據前，通膨壓力進一步升高。亞洲股市主要指數...
2026-09-09 18:35
南韓科技部豪擲逾千億元 拚發展本土尖端AI模型
韓國政府官員近日表示，韓國科學技術情報通信部計劃投入4.7兆韓元（約新台幣1100億元），推動發展一套本土人工智慧（AI...
2026-09-09 18:18
OpenAI攜手三星 研發生產客製化晶片…名稱、用途未公布
ChatGPT母公司OpenAI與三星電子擴大合作，將共同研發與製造晶片，三星則要全面佈署OpenAI的企業用軟體。
2026-09-09 18:14 共 0 則留言 規範
發布 - 張貼文章或下標籤，不得有違法或侵害他人權益之言論，違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤，聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者，請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
评论 (0)