3名Anthropic研究员警告AI十年“毁灭人类”风险

3名Anthropic研究员警告AI十年“毁灭人类”风险

来源：倍可亲(backchina.com)

　　美国中文网报道 人工智能公司Anthropic的“对齐科学”（Alignment Science）负责人埃文·胡宾格（Evan Hubinger）周三警告，他个人认为，未来十年内人工智能导致“全人类灭绝”的可能性超过10%，并表示目前业界仍没有解决超级智能安全和对齐问题的方法。

　　胡宾格在社交平台X发文称，虽然Anthropic正在努力控制人工智能风险，但目前并没有找到可靠的方法，确保未来的超级智能始终按照人类意图行动。所谓“超级智能”，是指理论上在多数认知能力上超过人类最优秀水平的人工智能系统，目前尚未真正实现。

　　他的表态出现在Anthropic研究人员雅各布·考克森（Jacob Coxon）宣布辞职之后。考克森过去三年曾在OpenAI和Anthropic从事人工智能研究，他表示，两家公司正在快速推进具有自我改进能力的超级智能研发，而相关安全措施仍不充分。

　　人工智能安全问题近期持续受到关注。OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）本月也表示，随着人工智能在越来越多领域超越人类，人类将更难准确理解和控制其能力。

　　与此同时，美国国会正在审议有关人工智能安全监管的两党法案，拟赋予政府在人工智能模型对公众构成严重威胁时采取紧急措施的权力。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。