担忧声起后OpenAI发文推动强制性国家级AI安全法规

OpenAI说，他们将与其他前沿AI实验室合作，推进行业主导标准建设，并倡导此类标准应超越国界，以制定兼容的国际标准。（路透社）

随着外界对人工智能（AI）技术安全性的担忧情绪持续升温，美国AI公司OpenAI发文称愿与美国国会合作，推动制定强制性、基于能力的国家级AI安全法规，并推进构建全球标准。

OpenAI全球事务总裁勒哈恩（Chris Lehane）星期三（9月9日）发布文章说，他们将在美国国会采取行动之前，继续支持美国各州立法，以加强更广泛的AI安全生态系统。

勒哈恩还说，OpenAI宣布支持加利福尼亚州的四项AI监管相关法案，涉及独立安全评估的整体基础设施、AI审计员标准、保护青少年、以及防范AI引发的生物威胁等保障措施。

OpenAI首席科学家帕乔基（Jakub Pachocki）近日曾撰文警告说，随着AI发展速度不断加快，人类将越来越难以理解和控制这项技术。“我希望并期待自愿放慢开发速度会成为常态，直到业内建立起共同的安全标准。”

该公司还在近期发布最新一代AI模型Astra时，因安全性方面的顾虑，选择主动增设防御性工作流程，也没有大范围公开发布。

延伸阅读

OpenAI还在文告中说，他们将与其他前沿AI实验室合作，推进行业主导标准建设，并倡导此类标准应超越国界，以制定兼容的国际标准。

自从AI模型能力越来越强大，行业内外对人类或更难以控制AI技术发展的忧虑日益加深。

一位名为考克森（Jacob Coxon）的人工智能研究员星期三在社交媒体X上发文，称出于对AI安全性的担忧，自己决定从Anthropic离职；这个贴文迅速引发行业热议。

他在帖子中直言：“OpenAI和Anthropic都没有表现得负责任，他们互相抢先开发具备自我增强能力的超级智能，并将人类生命作为赌注。”