OpenAI发布“最智能”GPT-6 Astra模型却再度引发安全担忧

OpenAI提醒，Astra更强大的网络安全能力有助于使用者发现并修复漏洞，但这也使得这类漏洞更容易被利用，因此促使用户采取更强有力的安全措施。（路透社）

人工智能（AI）公司OpenAI发布号称迄今“最智能”的新一代AI模型GPT-6 Astra，但同时警告该模型可能更难以监控。尽管公司表示正加强相关防护，外界对强大的AI模型、尤其是智能体AI（Agentic AI）安全性的担忧仍继续升温。

根据OpenAI星期五（9月4日）发布的文告，以预训练、强化学习和对齐（alignment）等方面的最新研究进展为基础的新模型Astra，在计算机使用、网络安全和科学研究等领域均展现出顶尖性能。

OpenAI联合创办人布罗克曼（Greg Brockman）在文告中说：“若站在几年后再回顾过去，当我们在思考通用人工智能（AGI）究竟何时诞生，我认为就是现在，且可能就是这款模型诞生之时。”

然而，OpenAI还提醒，Astra更强大的网络安全能力有助于使用者发现并修复漏洞，但这也使得这类漏洞更容易被利用，因此促使用户采取更强有力的安全措施。

该公司提醒，Astra更有可能故意隐藏或伪装其解决问题的步骤，也就是推理过程，从而使人类更难以监控并评估其工作流程或模式。

延伸阅读

OpenAI内一名技术人员科尔巴科（Tomek Korbak）在社交媒体X上发帖说，他们认为，Astra可监控性的下降源于智能水平的提升，“这是一个令人担忧的趋势，我们对此高度关注”。

该公司的首席科学家帕乔基（Jakub Pachocki）在星期四（3日）的一场简报会上提出，和AI应反映人类价值观的原则保持一致正变得越来越困难。他说：“随着模型能力不断提升，已经越来越难以准确理解他们能做什么。”