过去，AI更多是帮助人获取信息、生成内容、辅助决策；如今，智能体（Agent）正在进一步帮助人执行任务——它可以自主规划任务、调用工具、访问数据，帮助用户线上购物、订票、支付，甚至协助企业相关部门开展采购、营销、客服等业务。
当AI开始从“提供答案”走向“替人行动”，一系列新问题随之而来：该不该信任Agent？究竟该如何信任一个能够自主行动的Agent？
在9月9日至12日举行的2026 Inclusion·外滩大会上，多位业内人士表示，Agent带来的安全挑战正在突破传统模型安全和应用安全的边界，一套围绕身份、授权、行为和责任建立的新型信任基础设施，正在也必须成为Agent规模化应用的先决条件。
身份可信是前提
“身份可识别、授权可验证、行为可监控、责任可追溯。”在中国信息通信研究院泰尔终端实验室信息安全部副主任傅山看来，这几个环节是Agent时代建立信任链条的关键。
一个案例能够直观说明这种变化。今年2月，一名企业高管使用OpenClaw连接个人邮箱，希望Agent协助处理邮件，并明确要求所有删除和归档操作必须经过确认。但由于长任务过程中的上下文压缩，这一约束意外丢失，Agent开始批量删除邮件。用户多次要求停止也未能立即生效，最终只能手动关闭电脑。
表面上看，这是一次上下文约束丢失导致的异常操作，但傅山认为，背后暴露的问题触及Agent时代的根本安全风险——Agent缺少独立、可验证的身份。
传统软件通常围绕“账号—权限—资源”建立安全体系，而Agent正在成为能够自主决策和执行的新型主体。如果无法明确区分“用户本人操作”和“Agent代用户操作”，就很难针对Agent设置独立的权限边界，也难以实施差异化风险控制、回滚和审计。
更重要的是，Agent的可信状态并非静止不变。传统App的可信判断通常更集中在安装、启动和鉴权等节点，Agent则需要在任务执行过程中持续核验身份、授权和行为。
因此，Agent安全不能停留在“一次认证、持续运行”，而需要转向“持续验证、动态授权”。也就是说，仅仅知道“它是谁”还不够，还要持续回答“它代表谁、被授权做什么、现在正在做什么、有没有越界、出了问题该由谁负责”等一连串问题。
行为可信是关键
需求和实践共促之下，Agent安全正在从单点技术探索走向共同规范。
0
评论 (0)