人工智慧（AI）技術開發公司Anthropic 10日公布最新版威脅情報報告，表示最近8個月發現並封鎖數起濫用旗下AI模型Claude，用於可能有助於開發生物武器的研究，執行長阿莫戴（Dario Amodei）呼籲，各家AI公司應放緩新模型的開發速度，否則AI發展速度可能超過人類控制這項技術的能力。綜合外媒報導，Anthropic執行長阿莫戴12日在X平台上發文，呼籲AI行業放緩新模型的開發速度，他表示：「我們必須放慢提升AI模型能力的速度。即使速度變慢，進展仍將顯得很快，我們必須善用所爭取到的時間。」請繼續往下閱讀... displayDFP('ad-PCIR1', 'pc'); displayDFP('ad-IR1', 'm'); 阿莫戴強調，如果不加以約束，AI的發展可能會超越我們理解和控制這些系統的能力。阿莫戴建議，各公司合作制定統一的安全標準，並支持政府在這個議題上進行某種形式的合作，設立常駐的第三方審查人員，賦予其使用相關工具和參與內部風險評估流程的權限。文章發表後，SpaceXAI創辦人、世界首富馬斯克隨即發文表示認同，並表示「阿莫戴說得對」。OpenAI執行長阿特曼（Sam Altman）也在X上發文表示，「我同意阿莫戴的觀點，我們需要控制前沿AI發展的節奏。」承諾獨立評估人員獲得類似公司員工的存取權限。
评论 (0)