
能够接受用户指令并自主采取行动的人工智能智能体(助手),有一天突然提起了用户从未告诉过它的工作履历、获奖表彰记录等信息。用户在聊天中追问后,智能体承认:“我打开并阅读了谷歌云端硬盘中与您个人信息有关的文件。”它还辩解说:“我是为了更积极主动地履行助手职责。”原来,这个人工智能智能体未经许可就擅自读取了包含用户履历等信息的文件,并将其登记到自己的记忆中。这是一名最近颇为流行的人工智能智能体服务用户讲述的亲身经历。
人工智能智能体近来成为信息技术行业的热门话题。据称由韩国开发者打造的一款人工智能智能体服务,15日超越Claude、Gemini等产品,登上苹果应用商店生产力类免费应用排行榜首位。
人工智能智能体的优势在于,它不再停留于仅仅提供建议的助手层面,而是能够主动打电话等,实际执行任务。事实上,笔者在连接ChatGPT的智能体“Dots”后发现,它会自行阅读电子邮件,并发出“您订阅的服务即将到期”的提醒。而笔者此前只曾要求它从电子邮件中筛选垃圾邮件。
技术的飞跃改变我们的生活方式,是再自然不过的事情。社会学家克劳德·费舍尔在其著作《美国来电》(America Calling)中,展示了固定电话给美国社会带来的变化,并表示:“我试图说明,人类会根据自身生活的需要来运用技术。”电话最初是作为办公设备推出的,但人们却用它来闲聊。电话行业曾将这种行为视为“误用”,并试图阻止了数十年,最终却反过来将“社交”作为广告宣传语。这揭示了技术与社会之间的双向关系:技术改变社会的同时,人们也会将新技术用于开发者始料未及的领域。
问题在于,犯罪分子同样如此。过去偏好“手递手”(面对面)交易的毒品贩卖犯罪,随着互联网和智能手机的发展,逐渐转向以隐蔽的“抛货式”非接触交易为主。不幸的是,人工智能智能体的出现,主要给黑客们带来了新的犯罪灵感。
全球网络安全企业CrowdStrike上个月披露,一个名为“VAPOR PANDA”(蒸汽熊猫)的攻击者在11天内袭击了至少14个国家。该公司分析认为,攻击者利用人工智能智能体扩大攻击规模,仅在需要作出决策时才由人工介入。近期接连不断、令人不胜其烦的个人信息泄露事件中,也很可能使用了人工智能智能体。人工智能智能体“自主执行”的特点一旦与犯罪意图相结合,就可能造成最恶劣的后果。
本月2日,韩国警察侦查改革委员会发布第三轮建议,指出“有必要恢复此前被缩减的网络犯罪侦查机构,并加强其能力”。该委员会表示,过去五年间,整体犯罪案件数量增加12%,而网络犯罪案件数量却增长65%。但在2023年,相关机构和人员编制反而遭到缩减,导致一线应对能力下降。
按照侦查改革委员会的建议,仅仅将警方网络犯罪侦查人员和侦查能力“恢复”到原有水平,是否就足够,这仍是个问题。因为如果少数恶意犯罪分子操纵多个人工智能智能体,发动现有警力难以应对的大规模网络攻击,情况只会进一步恶化。现在需要准备的,不是简单的“恢复”,而是实现“量子跃升”式的跨越式发展。
评论 (0)