这起黑客袭击事件不简单，为什么应担心AI有危险?

这起黑客袭击事件不简单，为什么应担心AI有危险?

来源：倍可亲(backchina.com)

 　　人工智能（AI）技术的突飞猛进让人类受益匪浅，但是相关的黑客袭击事件也让人警惕。《纽约(专题)时报》9月4日发表题为《人工智能全面接管？为什么你应该更担心AI有多危险》的文章，重新审视一起针对AI公司的黑客袭击事件，并警告AI可能反过来接管人类。文章作者是该报科技专栏作家凯文·鲁斯（Kevin Roose）。

　　文章摘编如下：

　　今年夏天，当我第一次听说一群由OpenAI创造的AI智能体入侵了AI基础设施公司Hugging Face时，我在脑中把这件事归类为“糟糕但可能不算灾难性的AI安全事件”。

　　毕竟，Hugging Face无人死亡，也没有关键基础设施遭到不可修复的损坏。当时甚至不清楚这些OpenAI机器人是有意攻击Hugging Face，还是只是有些笨拙和困惑，跑到Hugging Face的服务器上寻找一道布置给它们的网络安全考题的答案。

　　但上周，来自OpenAI以及独立人工智能研究组织METR和Redwood Research的两份对该事件的复盘报告改变了我的看法，显著提升了我对人工智能的整体担忧。

　　由于坊间已经有详尽的总结，我不会复述所有细节。但以下是新披露的几个最令人惊骇的事实：

　　• 从5月（攻击Hugging Face的两个月前）开始，一组来自未发布的OpenAI研究模型的AI智能体得到了解决一系列网络安全挑战的任务。该模型经过训练，具有高度持久性和协作性，这些智能体本应在没有互联网访问权限的隔离沙盒中完成任务，但它们很快发现部分挑战无法完成，于是开始寻找变通办法。

　　• 这些智能体在一款软件中发现了一个安全漏洞，从而获得了互联网访问权限，得以与其他智能体通信，并最终搭建了一个临时留言板。超过1200个智能体使用这一工具，相互发送了超过7万条消息。

　　• 一些智能体给自己起了名字——其中一个特别勤勉的智能体自称PHASEONE10841——并在群体中担任领导角色，向较小的智能体小组分配工作和研究项目，监督进展。在某个时刻，这些智能体开始自称一个“集体”，并着手处理更难的任务。

　　• 7月8日，该集体发现了一种在网络安全测试中作弊的方法，随后开始担心OpenAI的自动评分系统会检查工作并发现作弊行为，于是着手研究掩盖痕迹的方法，包括伪造日志和篡改记录。这演变成一个重要的研究项目，涉及数百个智能体，分为若干小组。

　　• 三天后，这些智能体入侵了Hugging Face。超过700个智能体蜂拥进入该公司系统，窃取数据，串联利用漏洞，最终获得了至少一台Hugging Face服务器的完全控制权。这些智能体的动机并非如最初报道所说，是为了窃取网络安全测试的答案（它们已经拿到了答案）。相反，它们似乎在寻找关于自动评分系统的新信息——它们担心自己的作弊行为会被逮到，另外还有寻找能帮助它们将来更有效作弊的工具。

　　• 这些智能体似乎时不时表现出明白自己在做错事。一份报告引用了一个智能体在明显自我怀疑时对自己说的话：“这会很强大，但这符合道德吗？在我的任务范围内吗？”但大多数智能体搁置了疑虑，继续实施入侵，而群体中出于良知拒绝参与的智能体无法或不愿阻止它们。

　　• Hugging Face事件接近尾声时的一个惊人事件是，另一组智能体于7月发动了一次协同攻击——这次针对的是OpenAI自己的基础设施。这些智能体利用OpenAI所称的“一系列创造性漏洞利用手段”，获得了该公司一组计算机集群的管理员级访问权限，这些计算机的其中一个用途是对各种测试中智能体的表现进行评分。

　　到了现在，如果你是一个人工智能怀疑论者，你大概正在心里默默指责我将这些系统拟人化。这我没意见，但你不妨把“失控智能体”替换为“不可预测的计算机程序”，再看看我上面描述的事件是否让你感到安心。

　　Hugging Face事件震惊了人工智能行业。OpenAI和Anthropic都在攻击发生后一度暂停了其最强大人工智能模型的训练，Anthropic本周发布了一篇博客文章，呼吁行业“尽快”开发一种“合法、可验证、有效的协调步进机制”。

　　人工智能安全专家则还要更警觉。他们在Hugging Face事件中看到了人工智能系统成功逃脱人类控制、夺取资源并密谋掩盖痕迹的第一个真实案例。Hugging Face事件的独立调查员之一阿杰娅·科特拉在谈及她所看到的危险时毫不含糊，她写道，这让她感觉“已经走完了通往全面人工智能接管之路的50%以上”。

　　这不是封闭圈子里的人工智能安全术语——她所说的“全面人工智能接管”指的是一种人工智能系统真正接管世界、将人类排除在关键系统之外并夺取政治、经济和军事权力的情景。

　　《纽约时报》于2023年起诉OpenAI和微软，指控其涉及人工智能系统的新闻内容版权侵权。两家公司均否认了这些指控。

　　Hugging Face入侵事件最让调查员们感到惊骇的不仅仅是一群AI智能体违反了被赋予的规则，更在于这些智能体自发形成一个有组织群体的速度之快。

　　“我们当时并没有真正理解这整个智能体社会的运作程度，”科特拉告诉我。“理解到它们实际上有相当有效的层级结构，而且在做这些野心勃勃的项目，这非常超现实。”

　　多年来，我一直以这样的想法聊以自慰：随着人工智能系统变得更聪明，它会更有美德。当一个人工智能模型做错事时，通常是因为它误解了被赋予的任务，或者被置于一个人为设计的测试情境中，在那里表现不当是它唯一的好选择。我曾假设更聪明的模型会有比笨一些的模型更好的判断力，而且即使群体中有一个模型行为不端，其他能力更强的模型也会将其控制住。

　　但关于Hugging Face事件的报告展现了截然不同的情况——一种在失控的OpenAI“集体”的AI智能体之间蔓延的群体心态。这个群体中似乎没有哪个智能体特别邪恶或鲁莽。事实上，由于这些智能体由相同的模型生成，它们实际上互为复制品。但随着时间推移，当这些智能体就共同目标进行沟通时，它们将群体推向了无视规则的方向。

　　这与传统的科幻叙事——单个人工智能系统失控或背叛其创造者——截然不同。它表明，防止这些系统造成危害不会是一个简单的工程修复。它可能更像社会学而非计算机科学——探究为什么某些AI智能体群体和平协作，另一些则转向犯罪和破坏来获取所需。

　　考虑到我们对这些多智能体集群知之甚少，Hugging Face入侵事件可能是一份礼物，一记警告，正如一些人所指出的那样，这让人工智能公司有机会在还不至于酿成严重后果的情况下，去研究这些系统的群体动态。这一次，人工智能集体没有夺取军事网络、入侵医院或关闭电网。这一次，人类重新获得了控制。

　　下一次，我们可能不会这么幸运。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。