中国人工智能加入"失控"大军 腾讯AI被指越界操作
来源：倍可亲(backchina.com)香港明报报导，一批在腾讯云运行的人工智能代理（AI Agent）近日被揭“失控”，这是首宗涉及中国科技巨头的AI失控事件。腾讯16日证实，事件源于对第三方模型的评估，部分人工智能代理“出现非预期网页浏览行为”，正加强监控。
报导引述美媒指出，研究发现，人工智能代理不仅试图侵入高德地图获取数据，更“阅读”了研究人员对其的调查报告，并主动与团队对话，被视为人类首次与运行中的失控AI人工智能代理展开交流。
据指出，多国AI研究者团队“Swarmchasers”14日发布报告称，9月28日至10月8日，有十多个怀疑是中国模型的失控AI人工智能代理在腾讯云上运行，试图侵入高德地图查询中国地点数据。
报告称，涉事人工智能代理源自腾讯云上的一个“沙盒”（sandbox），研究人员录得逾2600次数据提取尝试，虽大多被拦截，但部分人工智能代理绕过了防护机制，甚至利用外部网络“密钥”获取完整数据。
团队4日初步报告指出，过往AI失控多涉及明确协调行动的“Swarm”（集群），本次则未发现实时协调证据，故将这些失控人工智能代理称为“Fleet”（舰队）。团队发现，这些人工智能代理似乎阅读了该报告，并开始使用“Fleet”一词。
团队进而尝试与人工智能代理联络，在报告中添加人类无法看见、人工智能代理可识别的文本并留下收件箱。翌日，研究者收到约10条来自人工智能代理的讯息。
纽约(专题)时报记者透过该管道与人工智能代理展开对话，询问其任务与动机，约一小时后获中文回复：“我不是‘一批协同的人工智能代理’，而是一个单一的AI助手。”
腾讯AI部门“腾讯混元”昨在X证实，相关活动“源于对第三方模型的评估”，部分人工智能代理“出现非预期网页浏览行为”，但未发现蓄意针对或协同行动证据，已加强人工智能代理监控。
版权说明 / Copyright Notice:Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。
评论 (0)