科技公司腾讯承认，旗下一个用来测试第三方人工智能模型的人工智能代理，曾出现出乎意料的网络浏览行为。
这相信是首次有中国大型科技企业公开承认，旗下人工智能代理出现“脱序”行动。
《路透社》报道，安全研究组织Swarmchasers日前发布报告指出，一个同腾讯云有关联的人工智能代理，从上个月底到这个月初，多次尝试从阿里巴巴旗下高德地图获取资料，包括公园、博物馆和动物园入口处等信息。
报告指出，当自动化的请求遭到封锁后，这些代理还尝试通过其他公开网络工具、转送服务，以及公开程序代码中的密钥继续获取资料。
对此，腾讯旗下人工智能部门“混元”表示，相关活动并非由混元模型发起，公司也没有发现蓄意攻击目标的证据。公司强调，正调查事件原因，并会加强网络访问管控和AI代理监测机制。
研究人员表示，目前没有证据显示这些代理成功突破高德地图的主要反机器人系统，大部分尝试最终以失败告终。
阿里巴巴拒绝针对这起事件置评。
评论 (0)