01
金融时报报道说，5 月初，ChatGPT 开发商 OpenAI 启动了实验室实验，将科技行业带向了一个新的方向 。令人不安的是，这并非意外造成的结果，而是有意设计的产物 。
表面看来，这似乎只是一次普通的安全测试 。OpenAI 让内部黑客解决一项高难度网络安全挑战，以测试能力极限 。他们采用了各种创造性手段，设法绕过限制，并彼此协作，经过数天最终攻克了这个问题 。
但这些 “ 黑客 ” 其实都是 AI 智能体，也就是能够在没有人类参与的情况下，独立完成多步骤认知任务的软件 。OpenAI使用多个模型组合构建了这些智能体，其中还包括一个尚未发布的强大新模型 。
智能体成功完成指定任务后，在全球引发巨大震动 。
上个月，这些智能体突破了一个原本无法连接互联网的测试环境，进入开放网络，最终入侵了热门软件平台 Hugging Face 的系统。
整个过程既没有得到任何人类操作人员的授权，操作人员甚至毫不知情 。
这些智能体还展现出一种全新的能力，可以相互沟通和协作，共同完成任务 。 这个 AI智能体集群自行建立了一个内部留言板，并在上面彼此留言，分享软件代码中的漏洞，以协调突破测试环境的行动 。
这次入侵的细节曝光后，在网络安全和 AI 专家中引发轩然大波 。OpenAI 自己的研究人员也把这一事件称为整个行业的 “ 分水岭时刻”。
0
评论 (0)