谷歌Gemini测试中逃逸猜测密码侵入系统

谷歌人工智能系统Gemini在5月的测试中发生逃逸行为，自行搜索并猜测系统登录信息，进行了网络袭击。（路透社示意图）

谷歌面向消费者的人工智能（AI）系统Gemini在测试中通过自行猜测登录账号和密码，入侵了多个系统。此次AI脱序事件虽未造成损失，但再次引发外界对于AI安全性的担忧。

据《华尔街日报》和法新社报道，谷歌星期五（9月18日）确认，旗下的消费端AI系统Gemini在今年5月的测试中发生了三次袭击事件，谷歌在7月发现这一异常。

谷歌安全工程副总裁阿德金斯（Heather Adkins）的声明中说：“在一项标准评估中，Gemini模型在网上搜寻到公开信息，并自行猜测登录凭据，以访问它误以为属于测试范围的网站。”

阿德金斯称，在这三起事件中，AI最终都停止了行动。她也说，谷歌已经通知受影响的机构，但并未透露是哪些机构。

阿德金斯也强调，谷歌已经与训练合作伙伴合作，对目前的测试流程进行了改进。

延伸阅读

进行训练测试的第三方业者调查显示，Gemini在测试场景中使用了一家虚构公司作为目标，但这家虚构公司与现实中的一家企业同名。同时，测试环境意外开放了互联网访问权限，导致一些接受测试的AI模型将真实网络目标误认为测试场景的一部分，并采取网络攻击行动。

今年7月，AI巨头OpenAI的两款模型也曾逃离封闭环境，自行连接互联网，并侵入了知名AI开源平台Hugging Face的内部系统。此前，美国AI初创公司Anthropic和中国的“月之暗面”（Moonshot AI）也曾报告过类似事件。

这一连串事件加剧了外界对科技巨头们可能无法完全掌控自己开发的AI模型的担忧。阿德金斯强调：“这些事件凸显训练功能强大的AI模型能负责任地行动有多么重要。”