Anthropic聯合創辦人喊話！ 應立法對AI強制安裝「終止開關」

Anthropic執行長阿莫戴喊話全球AI產業放緩開發、強化安全評估，xAI負責人馬斯克、OpenAI執行長奧特曼對此表態支持，引起國際關注，Anthropic聯合創辦人克拉克（Jack Clark）也呼籲立法對AI強制安裝「終止開關（kill switch）」。據《BBC》報導，克拉克表示，當人工智慧變得太過危險，社會可能會希望透過制定規則來徹底將其關閉，雖然包括Anthropic在內的大多數AI實驗室都有不同的方法來終止，但或許需要立法做出強制要求。請繼續往下閱讀... displayDFP('ad-PCIR1', 'pc'); displayDFP('ad-IR1', 'm'); Anthropic研究員考克森（Jacob Coxon），因擔心AI可能毀滅人類而離職，他上週發文後在網路引起瘋傳；人類學家胡賓格（Evan Hubinger）認為，AI在未來10年內毀滅人類的可能性超過10％。對於AI有10％機率殺死全人類這件事，AI教父、諾貝爾獎得主辛頓（Geoffrey Hinton）認為並非無稽之談，因為AI可能會控制所有連接到網路的系統，並且藉此來對付人類。不過，AI產業也有不少專家指出，對於AI會毀滅人類的說法被誇大了，或者可能是為了吸引關注而創造的噱頭。AI開發者平台Hugging Face負責人戴蘭格（Clement Delangue）表示，向考克森詢問AI滅絕人類的風險，就像是詢問冷氣維修工有關氣候變遷的事情，大家還是要理性看問題才對。