基于安全考量 谷歌暂不全面开放对新AI模型使用

（旧金山1日法新电）谷歌周三表示，为了防止骇客滥用，该公司暂时不会向公众全面开放其最强大的人工智能（AI）模型“Gemini 4 Argon”。该模型将仅向经过严格筛选的网络安全专家群体开放。 

谷歌首席AI架构师卡武克库奥卢在宣布该模型的部落格文章中写道：“要安全地发布这个水平的前沿技术，需采取分阶段方式。”

谷歌表示，将主动地允许美国政府提前使用该模型，并在向大众广泛开放之前收集试用者的反馈意见。 

这种谨慎的发布策略与竞争对手Anthropic的做法如出一辙。Anthropic此前也将其最先进的模型“Claude Mythos Preview”限制在少数受信任的机构范围内使用。 

华盛顿方面曾在6月短暂强制Anthropic暂停对其已公开发布的“Claude Mythos”和“Claude Fable”模型的访问，并随后建立了一套针对最强大AI模型在发布前进行审查的自愿性流程。 

周二，特朗普总统在白宫会见了包括谷歌首席执行员皮猜和Anthropic首席执行员阿莫戴在内的科技界高管。在会上，他们签署了一项自愿协议，承诺管控各自AI系统可能带来的风险。 网络安全专家担心，这种尖端技术可能被用来攻击银行、医院及政府的网络系统。 

谷歌表示，Argon在软件工程、法律与金融工作以及网络防御等复杂任务中表现出色，尤其在发现并修复关键软件漏洞方面具备领先能力。 

谷歌称，早期测试人员利用Argon发现了一款全球医院都在使用的软件中存在的漏洞，该漏洞会导致敏感个人资料泄露，而其他先进模型此前均未发现这一问题。 

谷歌表示，Argon的设计机制使其能够拒绝那些可能协助实施网络攻击或用于研发化学、生物及核武器的请求。

谷歌声称，正在监控该模型的推理过程，以防止其偏离用户的预期意图。研究人员将这种风险称为“失对齐”。