Anthropic執行長憂AI風險 籲業界放緩尖端模型研發

人工智慧龍頭Anthropic執行長阿莫戴，12日在社群媒體發表長篇文章，公開呼籲AI業者，放慢提升尖端模型能力的速度，好讓風險防範機制有時間跟上。他表示，AI自我改進能力持續提升，可能逐漸超出人類控制能力，加上近期OpenAI模型在測試期間突破隔離、存取Hugging Face系統的事件，都是他主張放慢腳步的原因。他擔心只要再過6到12個月，這樣的一群人工智慧就可能具備接管整個網路的能力，若被用於網路攻擊和恐怖活動，可能造成數千億美元損失。阿莫戴也提出3項改善方案，包括讓獨立第三方評估人員長期進駐主要AI公司，檢視安全措施、通報事故並評估模型是否符合安全要求；另外由頂尖AI公司協調制定安全標準；並且推動政府與國際間合作，共同管理AI風險。而就在阿莫戴喊話前兩天，Anthropic研究員考克森（Jacob Coxon）宣布離職，警告AI業者競相發展自我改進的超級人工智慧，可能為人類帶來生存威脅。Anthropic的安全研究主管胡賓格（Evan Hubinger）也表示，他個人認為，未來10年AI導致人類滅絕的機率超過1成。Anthropic研究員示警AI若失控 未來10年釀人類滅絕機率逾10%阿莫戴的呼籲迅速獲得其他AI巨頭響應。xAI共同創辦人馬斯克直接表示，阿莫戴說得對；OpenAI執行長阿特曼則公開表示，他同意應該放慢尖端AI發展速度，阿特曼在接受財星雜誌專訪時也表示，OpenAI今年不會進行IPO，最快要到2027年，因為公司還有許多安全目標需要調整完成。不過Anthropic的上市規畫還在推進。路透社報導，輝達正洽談投資Anthropic，金額最高可能達100億美元。