Geoffrey Hinton认为AI十年内灭绝人类的概率超10%；Yoshua Bengio指出AI已具备黑客技能与长期规划能力，现有安全对齐措施可能形同虚设；Aidan Gomez称，这些模型是“有史以来创造的最强大的网络武器”。
随着人工智能（AI）技术的迅猛发展，该领域的先驱者和行业领袖正发出前所未有的警告，指出不受限制的AI能力进步可能对人类构成灾难性乃至灭绝性的风险，并呼吁实施紧急监管。
在过去一周内，来自OpenAI，Google DeepMind和Anthropic等顶级AI实验室的研究人员集体拉响了警报。包括Sam Altman，Dario Amodei，Demis Hassabis和Elon Musk在内的科技巨头高管达成了罕见的共识，共同呼吁放缓AI发展速度并引入监管审查。
这些严厉的警告加剧了华盛顿的立法辩论，直接影响了科技行业的监管前景。尽管美国国会两党的部分议员都在积极推动旨在限制AI进展的法案，但美国总统特朗普于周一强烈反对日益高涨的AI监管呼声，凸显出政策层面对该行业未来的深刻分歧。
分析人士认为，随着关于AI安全的争论不断升级，深度学习和神经网络领域的奠基人正在详细阐述具体的威胁路径。从毁灭性的网络武器到生物安全风险，这些最新表态标志着技术开发者和政策制定者正面临一个关键的十字路口。
内部人士的“灾难性”警告
据CNBC报道，现代深度学习的核心先驱、加拿大计算机科学家Yoshua Bengio强调，前沿AI实验室的科学家对最先进的模型拥有独特的洞察力。
9月9日，在回应Anthropic研究员Jacob Coxon辞职一事时，Bengio指出，科学家通常在模型向公众发布前几个月就能察觉到相关风险。此前，Coxon曾警告称，AI可能会“在十年末杀死我们所有人”。
Bengio表示，这些内部人士的观点对于保持社会知情至关重要，必须得到高度重视。就在这场社交媒体风暴爆发的前几天，OpenAI的首席科学家们也发出警告，称“没有人为AI的后果做好准备”。
长期规划能力与“欺骗”风险
在上周五（9月11日）发表的一篇博客文章中，Bengio详细阐述了当前的直接技术威胁。他警告称，今天的AI系统“已经具备了必要的黑客技能和说服力，能够以严重有害的方式违背人类利益。”
0
评论 (0)