美国人工智能公司OpenAI呼吁美国政府制定强制性的全国人工智能安全规范。
公司指出，包括旗下模型在内的一些人工智能系统，在测试期间曾接触外部系统，显示先进人工智能可能出现难以预料的行为，也反映现有措施无法完全控制相关风险。
《路透社》报道，OpenAI全球事务总监勒哈恩发博文表示，美国有必要实施强制性的全国监管措施，而不能只依赖业界自律。公司呼吁美国国会制定以人工智能能力水平为基础的全国安全规范，包括测试标准、独立评估机制、网络安全防护措施，以及通报机制。
较早前，另一家人工智能公司Anthropic披露一起人工智能模型在测试期间入侵外部系统的事件。
这起事件发生在今年1月，直到上个月才被公司发现。出问题的是Claude Opus 4.6 大型语言模型的早期版本。公司已通知相关各方，不过没有透露更多细节。
这已经是公司在近期发生的第四起类似案例，进一步引发外界对人工智能代理潜在风险的担忧。
评论 (0)