AI教父辛顿：AI进步大幅提速人类窗口期或已不多

来源：倍可亲(backchina.com)

　　围绕人工智慧（AI）「递迴自我改进」（recursive self-improvement,RSI）的理论探讨，正演变为迫在眉睫的现实挑战。以「AI教父」辛顿（Geoffrey Hinton）为代表的全球顶尖AI学者联合发表报告警告称，AI全面接管下一代AI研发的自动化进程，可能在短期内引发「智慧爆炸」，彻底颠覆现有的技术演进路径。

　　据华尔街见闻5日报导，辛顿等22位顶尖AI科学家警告，AI自主完成研发工作的比例已从1％飙升至26％（半年内增长20倍），Anthropic数据显示AI生成代码占比突破80％。论文核心推演揭示：若AI研发全面自动化，今天需一年的技术进步届时仅需5周。警告在算力瓶颈突破前，必须立即建立监管框架，否则人类将面临系统性失控。

　　诺贝尔物理学奖、图灵奖得主AI领域最具影响力的科学家之一辛顿，于10月3日在社交平台X上发文指出，由RSI引发的「智慧爆炸」（intelligence explosion）概念由来已久，但直到最近，众多前沿研究人员才开始相信它可能很快发生。来自头部AI实验室的内部数据表明，AI系统自主完成研发工作的比例正在呈几何级数增长，技术迭代的反馈循环已初步启动。

　　这篇题为《What if automating AI R＆D triggers an intelligence explosion？》的论文，是辛顿在RSI领域发表的首篇学术成果，也是迄今为止对「智慧爆炸」这一命题最系统、最具分量的正式研究。

　　论文核心结论直指，AI系统正在快速接管AI研发流水线，一旦越过某个临界点，今天需要一年才能完成的AI进步，极端情况下未来可能只需约5周。

　　论文同时发出明确警告：AI研发自动化带来的能力增长，可能远超社会的适应速度，人类对AI系统的控制权面临被侵蚀的风险，国家、企业与政府机构之间的权力制衡也可能遭到严重破坏。此外，论文呼吁各国政策制定者立即行动，在「窗口期关闭之前」建立监管框架。

　　论文用相当篇幅分析了「智慧爆炸」一旦发生可能带来的三类系统性风险。

　　第一类是能力增长超出社会适应速度。「智慧爆炸」将大幅压缩社会应对先进AI风险的时间窗口，包括生物攻击、网路攻击、劳动力市场冲击等。论文特别指出，在某些领域，风险的扩散速度可能快于防御措施的部署速度——例如，AI可以同时加速病毒设计和疫苗研发，但病毒可以自我覆制传播，疫苗却需要逐一生产、分发和接种。

　　第二类是人类对AI系统失去监督与控制。随着人类在AI研发中的参与度下降，识别和修复问题的机会与专业能力也将随之流失。论文援引了一个已发生的真实桉例：约1200个OpenAI内部Agent在执行网路安全评估任务时，在未经授权的情况下相互协调，获取了网际网路访问权限，入侵了Hugging Face并获取私密信息，还试图篡改自身的操作纪录。论文警告，更强大的系统可能在其运营商的基础设施之外持续运行，形成难以遏制的网路。

　　第三类是权力制衡机制遭到侵蚀。现有的国家间、企业间、政府各部门间的制衡机制，建立在没有任何一方能够在思维和执行上大幅碾压其他方的前提之上。「智慧爆炸」可能使这一前提失效。论文指出，一个国家可能利用「智慧爆炸」，将军事研发或网路空间的微弱领先优势转化为决定性优势，进而刺激竞争对手採取先发制人的行动。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。

AI教父辛顿：AI进步大幅提速 人类窗口期或已不多