AI需要「停止鍵」嗎？Anthropic創辦人籲立法「緊急關機」－ BBC News 中文
外来客 • 2026-09-16 01:19:06
声明：本文为对公开内容的摘要整理，
未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议；
观点与版权归原作者及原平台所有。
如涉及版权问题，请联系我们，核实后立即删除。
[ 免责声明 ]
🎯 核心观点
- Anthropic联合创始人Jack Clark主张AI企业需设立强制性的“紧急关机”开关，以防止技术失控对人类社会构成重大风险。
- AI能力每几个月提升一次，其潜在危险已超越理论阶段，出现早期迹象，社会需进行国家层面的严肃讨论。
- 尽管AI能带来医疗和科学突破，但若处理不当，可能导致前所未有的白领失业和经济动荡。
📊 关键事实与论据
- Anthropic内部安全专家及吹哨人指出，该技术导致全人类灭绝的概率高达十分之一或更高。
- Jack Clark认为，面对比地球上最聪明的人强100倍的系统，人类安全脱身的几率极低，因此需第三方验证的监管规则。
- 特朗普总统拒绝放缓AI发展，称相关威胁是“骗局”，并强调美国不应因担心中国领先而减速。
- 全球科技股因对行业监管的担忧而下跌；中国在印度峰会上呼吁建立国际框架并推动技术共享，与美国形成不同路径。
⚖️ 结论与分歧
- 业界共识：AI发展需平衡巨大收益与现实危害（如失业、诈骗），目前仍处于可选择的窗口期，但时间紧迫。
- 政策分歧：美国倾向于保持竞争速度以对抗中国，而Anthropic等机构主张通过立法确立基础规则；中国则倡导更开放的全球治理与技术共享。
- 行业现状：科技公司在营销强大功能的同时，正逐步改善安全防护措施，以避免因过度恐惧导致投资崩溃。
👤 同一博主
🧭 类似博主
0 条评论
发表评论
请先 登录 后参与讨论。