01
上周末，全球AI三大巨头罕见释放“放缓研发”信号，OpenAI首席执行官Sam Altman也再次呼吁AI行业共同建立安全标准。
9月14日，Altman在X平台发帖称，人工智能发展存在两种最坏结果：一是AI最终失控，人类失去对未来的控制；二是极度强大的AI被少数个人、公司或国家掌控，并将自身意志强加于所有人。他认为，这两条红线都不能触碰。
Altman表示，OpenAI已开始在重大能力提升的强化学习训练启动前，主动制定明确的安全论证（safety cases），并希望其他前沿AI公司采取类似做法，围绕模型失准、监控和安全等问题形成统一标准。
据The Information援引知情人士，Anthropic、OpenAI和谷歌已就合作成立AI行业标准机构展开磋商，相关工作组会议仍在进行。这意味着，头部AI实验室的安全治理思路正从各自制定内部规则，逐步转向推动行业协调框架。
安全治理前移，AI“调速”并非放缓发展
0
评论 (0)