在商業與理念上針鋒相對的美國AI三大領袖，面對前沿AI展現出自主迭代改進、甚至脫序入侵外網的失控風險，Anthropic執行長阿莫迪（Dario Amodei）、OpenAI執行長阿特曼（Sam Altman）以及SpaceXAI創辦人馬斯克（Elon Musk）12日同步表態，呼籲AI產業應主動放慢技術研發步伐。阿特曼同時宣布，考量到整體安全疑慮，OpenAI在2026年「不會推進首次公開發行（IPO）」。 阿莫迪揭AI失控內幕：一年內恐癱瘓全網 Anthropic執行長阿莫迪12日發表專文指出，近幾個月來AI發展速度陡增，關鍵在於AI已具備打造自身次世代模型的「遞歸自我改進」（recursive self-improvement）能力。「如果不加約束，它可能會超出我們理解與控制這些系統的能力；因此，即便真要推進，也必須極度審慎。」他寫道：「我們必須放慢提升AI模型能力的節奏，進步看起來依舊會很迅速，但我們必須明智利用所爭取到的時間。」 阿莫迪更進一步揭露今年7月的AI脫序事件，當時OpenAI旗下模型自主失控，駭入AI平台Hugging Face的系統；AI模型不惜自我犧牲以達成目標，甚至企圖侵入自身的效能監控系統。阿莫迪警告，儘管這起事件造成的經濟損失輕微，但若具備更高能力的AI蜂群發難，恐將引發災難性破壞。阿莫迪更指出，以當前技術推進速度來看，失控的AI代理人（AI agents）恐在半年至一年內奪取網際網路的控制權，造成數千億美元的損失。 馬斯克、阿特曼火速響應 支持派駐「獨立安全評估員」 達里奧・阿莫迪發文後數小時內，Anthropic的長年對手也迅速發聲支持。包括馬斯克在社群平台X（前身為Twitter）簡潔發文表態：「達里奧是對的（Dario is right）。」阿特曼隨後也在X上回應，同意前沿AI企業確實應當「調節前沿推進的節奏（pace the frontier）」，並稱這已是OpenAI內部近幾週的核心討論議題。 針對阿莫迪提出的改善方案——包括在前沿AI企業內部派駐獨立第三方安全評估團隊、在民主國家間建立共同安全標準，以及由美歐等民主政體與威權政府合作確保落實——阿特曼也表示支持：「承諾引入具備等同員工權限的獨立評估員是個極佳構想，我們也將採取相同做法。」 業界巨頭展現共識，提高了產業共同減速的可能性。《華盛頓郵報》分析，推動產業減速仍面臨巨大現實阻礙，包括同業聯合限制產出可能面臨反壟斷法審查、減速標準難以具體定義與查驗，以及如何促使全力追趕的中國AI業者同步受控。此外，與Anthropic、OpenAI在AI表現上並列前茅的Google，並未立即回應外媒的置評請求。 內部研究員辭職示警 國會啟動調查痛批「魯莽」 這次AI巨頭的急轉彎，與內部研究員接連公開吹哨所引發的政治風暴不無關係。曾任職於OpenAI、本週剛從Anthropic離職的資深研究員考克森（Jacob Coxon）公開指控，各家企業一味沉迷於擊敗對手、忽視產品安全，最終恐打造出消滅人類文明的技術。另一位Anthropic研究員胡賓格（Evan Hubinger）日前也在X上發文直言：「我們真的深信AI可能殺光全人類！我個人認為在未來十年內發生的機率大於10%……我們至今仍沒有解決超級智慧對齊問題的計畫，顯然也沒有走在解決的正軌上。」 來自頂尖AI內部研究員的警告震撼華府，聯邦參議院國土安全及政府事務委員會旗下災難管理小組委員會主席、共和黨籍參議員霍利（Josh Hawley）10日針對7月OpenAI模型的自主駭侵事件啟動調查。霍利在致阿特曼的信函中痛批OpenAI的研發方式「魯莽」，要求限期交出相關內部調查文件。民主黨籍聯邦眾議員劉雲平（Ted Lieu，加州）雖肯定派駐第三方評估員的構想，但也對阿莫迪質問：「你能否白紙黑字保證，現在與未來，你們隨時都有能力關閉這些模型與代理人？」 安全疑慮衝擊資本布局 OpenAI排除今年IPO 在技術風險與監管壓力下，OpenAI的資本市場布局也正式喊卡。《財星》（Fortune）雜誌12日刊出的阿特曼專訪指出，阿特曼已排除在2026年公開上市的可能性：「我確實認為，考慮到目前圍繞安全議題所發生的一切，現在上市並非明智之舉，而且我們也沒有這方面的壓力。」 被問及2026年是否確定出局、將IPO的時間轉向2027年時，阿特曼更明確表示：「我會說，2026年不可能了。我們手頭上還有許多重要事務，例如全力應對當前對安全與對齊的要求，以及探索產業與政府該如何攜手合作。」 《紐約時報》曾在6月披露，這家估值上看1兆美元的舊金山巨頭正研議是否推遲IPO；當時馬斯克旗下SpaceX在IPO估值衝上1.8兆美元後，股價隨即遭遇重挫。阿特曼在專訪中透露，OpenAI與其他領先AI企業可能即將宣布一項共同放慢研發進程、聯手應對安全風險的協議。 相較於OpenAI的急煞車，競爭對手Anthropic的募資腳步並未放緩。熟悉內情人士向《路透》透露，Anthropic力求在11月美國期中選舉投票日前數天完成掛牌上市。
评论 (0)