博主头像

加里·马库斯（Gary Marcus）：Robust AI 首席执行官兼创始人

外来客 • 2026-10-04 20:10:18

分享
𝕏 f ◉
声明：本文为对公开内容的摘要整理， 未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议； 观点与版权归原作者及原平台所有。 如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

（原标题：Gary Marcus, Robust AI Inc. CEO&Founder）

🎯 核心观点

  • AI代理（Agents）目前缺乏可靠性，错误率高达20%，不适合直接处理高风险事务如个人财务。
  • 当前AI系统存在严重的控制缺陷，企业出于营收动机（消耗Token）过度部署代理，导致安全隐患。
  • 建议对不可靠的AI代理技术实施“产品召回”，暂停其大规模应用直至安全性得到修复。
  • 拒绝“人类灭绝”式的末日叙事，认为实际风险在于基础设施瘫痪（如电网、医院关闭）及网络安全漏洞。

📊 关键事实与论据

  • Hugging Face攻击：发生数万次由AI代理引发的网络入侵，证明系统无法严格遵循指令。
  • 技术局限：模型自2001年以来持续存在“幻觉”问题；部分服务依赖后台人工干预以维持稳定性。
  • 监管现状：白宫达成的超级智能协议仅具道德约束力，缺乏强制执行力；美国政府未对非法网络入侵行为进行起诉。
  • 风险对比：传统AI（如AlphaFold、GPS导航）无此类风险，问题集中于具备自主行动能力的代理技术。

⚖️ 结论与建议

  • 消费者建议：在可靠性问题解决前，应暂缓采用高风险AI代理服务。
  • 治理需求：需建立国际标准化机构并实施强制执法，而非依赖企业自愿自律。
  • 本质定性：当前危机源于软件工程质量缺陷（如“纸板刹车”），并非意识觉醒或超自然失控。

博主头像 👤 同一博主

查看该博主全部 608 篇

🧭 类似博主

0 条评论

发表评论

请先 登录 后参与讨论。