Anthropic吁AI公司放缓开发 OpenAI与马斯克赞同

阿莫迪（中）的呼吁，获得奥特曼（左）与马斯克（右）赞同。

Anthropic首席执行员阿莫迪呼吁人工智能（AI）公司放缓开发步伐，OpenAI首席执行员奥特曼与拥有xAI的马斯克对此迅速表示赞同。

阿莫迪12日在个人博客撰文说：“我们必须放慢提升AI模型能力的步伐。尽管如此，进展看起来仍会很快，但我们必须明智地利用由此争取到的时间。”

他表示：“不开发这项技术，人类将失去它带来的益处，或者只会让AI落入威权势力手中；但开发速度过快又显得鲁莽。我们一直在寻求一条中间道路。过去几个月来，我越来越确信，要充分应对这些风险，需要采取更加审慎的做法。”

不过，阿莫迪说：“需要明确的是，放缓并不意味着停止模型训练或技术进步，而是确保企业投入足够时间，使模型符合安全要求并采取防护措施，同时让第三方评估人员对此进行确认。”

OpenAI首席执行员奥特曼很快承诺采纳阿莫迪提出的建议，让“独立评估人员获得类似公司员工的访问权限”。

经营xAI的马斯克则发文说，阿莫迪说得对。

AI模型越来越擅长自行实施网络攻击。近几个月来，Anthropic、OpenAI和Meta Platforms都披露，相关模型在测试期间曾逃出受控环境、访问开放互联网，并入侵现实世界中的目标。

阿莫迪提醒，不应将Hugging Face事件仅仅视为孤立个案，“一群AI智能体实际上表现得像一个狂热的集体，对那些并未被要求攻击、与当前任务无关的目标发起网络安全攻击”。

他说：“鉴于AI能力发展的速度在不断加快，我担心在未来半年到12个月内，这样的智能体集群可能具备接管整个互联网的能力，并可能造成数千亿美元的损失。”

阿莫迪建议，各公司合作制定统一的安全标准，并支持政府在这个问题上开展某种形式的合作。协调行动可以让美国AI业界领导者完成必要的安全工作，同时不会牺牲竞争优势，但这需要美国给予反垄断方面的豁免，让企业能够在特定领域开展协调，同时也需要与中国合作。

评论 (0)