01
据美媒《纽约时报》报道，Anthropic首席执行官达里奥·阿莫迪周六发表了一篇3,800字的文章，呼吁在全球范围内放慢人工智能的发展速度。就在几天前，该公司的一名员工因对该技术的安全性感到担忧而辞职。
另外两家顶尖AI公司的领袖迅速响应了这一倡议。OpenAI首席执行官奥特曼以及持续加大AI领域投入的首席执行官马斯克均在社交媒体上发文表示，他们赞同需要放慢步伐。
阿莫迪称其联合创立Anthropic的初衷是安全、谨慎地构建AI。他在文章中写道，尽管他相信该技术能带来许多益处，但其推进的速度已经超越了研究人员能够安全掌控的范围。
“在过去几个月中，我逐渐确信，要全面应对风险需要更加审慎——不仅要投资于风险预防，还要控制能力提升的速度，以便给风险预防留出跟上的时间，”阿莫迪表示，“我们必须放慢改进AI模型能力的速度。”
虽然阿莫迪多年来一直警示AI安全风险，但他这篇文章构成了迄今为止顶级AI公司高管发出的最有力、最直接的紧迫行动呼吁。
他呼吁引入独立审计人员对各公司的安全标准进行检查，并敦促在全球范围内展开合作，制定AI发展的相关规则。
Anthropic首席执行官达里奥·阿莫迪
在此次呼吁行业暂停之前，由于Anthropic、OpenAI以及Google的DeepMind等公司的AI模型研发取得了重大突破，整个科技行业数月来的焦虑情绪不断加剧。
0
评论 (0)