扎克伯格加入AI安全论战：不能先要求别人放缓...

扎克伯格加入AI安全论战：不能先要求别人放缓...

来源：倍可亲(backchina.com)

 　　扎克伯格认为，比起倡导AI（人工智能）减速，引入第三方评估机构才是行业最佳实践。

　　当地时间9月15日，科技巨头Meta的CEO马克·扎克伯格（Mark Zuckerberg）在X平台上发文表态，加入近期围绕AI安全的热烈讨论。他表示，每一家AI实验室都有责任和动力，来确保模型安全训练以所需要的速度推进，同时也有能力采取行动。

　　扎克伯格解释道，用户不会愿意使用与自身意愿不一致、无法按照要求完成任务的AI Agent（智能体），这也给予AI实验室进行调整的内在动力：“我的看法是，信任和对齐（指让模型去符合用户的意图）正迅速成为区分不同Agent和模型的最重要能力。任何不重视对齐的实验室最终都会落后。”

　　同时，如果AI模型造成伤害，实验室将面临重大的法律责任。因此，扎克伯格指出，Meta曾推迟数月发布Muse模型，将重点放在安全和安保工作上。他强调：“我们并没有要求其他公司先这么做，然后自己再行动；我们只是把这作为日常工作的一部分。”

　　扎克伯格的上述言论似乎是在暗讽Anthropic的CEO达里奥·阿莫迪（Dario Amodei）。此前，阿莫迪发表一篇千字长文，呼吁行业放缓提升前沿模型能力的速度、为安全研究和风险治理争取更多时间，得到了OpenAI CEO山姆·奥特曼（Sam Altman）和SpaceX的CEO马斯克的附和。

　　不过，扎克伯格还是赞同了阿莫迪关于“引入第三方评估”的观点。他写道：“引入独立评估机构和顾问是行业最佳实践。Meta超级智能实验室（MSL）已经在多个领域做到这点，帮助产出更好的成果。其他实验室也完全可以这么做。总体而言，如果能够形成一个规模更大、更加多元化的评估机构生态，将会有所帮助。”

　　最后，扎克伯格总结道：“将绝大多数算力用于服务用户，而不是竞相推进递归自我改进（RSI），是确保我们安全发展这项技术的最佳方式之一......我认为，为所有人构建一个积极未来的关键，是维持正确的权力平衡。”

　　有趣的是，和扎克伯格一度“水火不容”的马斯克回复了这条帖文，简单地写道：“酷。”

　　可以看出，和阿莫迪的观点相比，扎克伯格的论述更偏向于英伟达CEO黄仁勋。近日，黄仁勋态度坚定地否认“AI末日论”。在他看来，AI行业“不需要任何新的法律，也不需要新的监管”，AI安全本质上是一个工程问题，而不是法律问题。

　　而在15日当天的活动上，阿莫迪和奥特曼也分别阐述了自己的立场。阿莫迪重申了“放缓前沿AI模型开发”的核心理念：“我认为这是引领行业前进的方式，树立榜样，表明每个人都可以做得更好。”

　　奥特曼则强调，在AI前沿开发中，安全性和监控应该优先于功能性。不过，他也承认，人们的担心不无道理：由于竞争压力，AI公司可能无法做到这一点。

　　此外，据OpenAI方面透露，OpenAI正在与Anthropic和谷歌DeepMind实验室合作，共同采取措施以解决AI安全问题，三家公司的合作已持续数周。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。