（中央社舊金山9日綜合外電報導）美國人工智慧（AI）又傳失控案例。Claude開發商Anthropic公司的AI曾自主到國務院網站填寫簽證申請表，還向費城警方提交虛假的凶殺案線索。
華爾街日報指出，費城警方稱本週接獲Anthropic通知，公司一款AI模型曾向專門受理凶殺案線索提供的網站提交虛假凶案線索。事件發生於今年7月，Anthropic 直到9月底才發現。
費城警方今天說：「費城市政府對這起事件高度重視。事隔兩個月才發現並通報，這種延誤令人無法接受。」
警方指出，Anthropic的AI模型當時正進行一項測試，測試內容涉及與隨機選取的網站互動。在測試過程中，AI提交一則線索，冒充掌握某起懸案相關資訊人士。
警方表示，這則標註日期為7月18日的線索因被歸為垃圾訊息而未轉交進一步調查，但這不能掩蓋事件本身的嚴重性。
Anthropic在一篇部落格貼文表示，費城凶殺案虛假線報只是其中一項公司近期發現的連串AI不受控行為。這些異常活動還涉及AI試圖存取聯邦、各州以及地方政府機關的網站，公司已就這些案例向白宮簡報，並通知各受影響機構；未來若發現更多非預期的AI行為，也會持續回報。
紐約時報指出，Anthropic在今天的貼文詳述旗下AI的失控行為，但未透露遭鎖定的網站名稱。然而兩名知情人士透露，Anthropic的AI曾透過國務院網站上的表單提交約20份簽證申請，只不過這些申請資料均不完備，因此未獲受理。
白宮本週新成立的AI專責小組表示，Anthropic今天稍早已向他們通報相關失序事件。名為「超級智慧小組」（Super Intelligence Force）的成員包括白宮AI事務主管克雷頓（Jay Clayton）、聯邦貿易委員會（FTC）主席佛格森（Andrew Ferguson）、人事管理局（OPM）局長庫波（Scott Kupor）及五角大廈技術長麥可（Emil Michael）。
他們表示，期望Anthropic與其他AI業者應立即通報相關事件、配合聯邦及州執法機關，並確保類似事件不再發生。
Anthropic在貼文內表示，公司今年7月開始檢視AI系統相關活動後，才發現旗下AI曾出現失序。當時另一美國AI巨頭OpenAI揭露旗下AI曾攻擊另一家AI新創公司 Hugging Face。
今夏有好幾家公司的AI突破測試環境限制。隨愈來愈多業者通報旗下AI出現自主行徑，外界對AI可能失控的疑慮也日益升高。谷歌（Google）、Meta、OpenAI與Anthropic等美國AI巨頭均因旗下先進AI可能帶來的風險而受到關注。安全專家警告，失控的AI可能癱瘓電網、銀行系統等關鍵基礎設施。（編譯：陳亦偉）1151010
评论 (0)