01
人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。
AI安全引爆舆论
这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称，他辞职是因为担心Anthropic和OpenAI是在“拿我们的生命做赌注”。
他说，开发人工智能的人“真心相信，到本十年末（2030年），人工智能可能会毁灭我们所有人”。Anthropic对齐科学负责人Evan Hubinger后来更是直接回应称，人工智能“毁灭全人类”的概率超过10% 。
这些言论直接引爆了人们对AI安全的担忧，并在上周末进一步升级。Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）上周六发表了一篇长篇博文，呼吁业界放慢脚步，并表示这项工作需要行业和全球的协调配合。
阿莫代伊发表文章后不久，埃隆·马斯克发文称：“达里奥说得对”，随后又补充说，他“长期以来一直在对人工智能发出警告”。OpenAI首席执行官萨姆·奥尔特曼也很快作出回应，表示他同意阿莫代伊关于“我们需要放缓前沿AI发展的步伐”这一观点。
这场讨论很快传到了华盛顿，有关“如何在不扼杀技术创新的情况下控制日益增长的AI风险”的讨论愈发激烈。
0
评论 (0)