01
Anthropic CEO阿莫迪上周六呼吁AI行业控制前沿工具的开发节奏，马斯克和阿尔特曼表示支持，阿尔特曼甚至暗示OpenAI可能需要推迟IPO。
Anthropic首席执行官达里奥·阿莫迪图片来源：Jason Henry for WSJ
三家大型AI企业的掌门人一致认为，在他们取得的进展酿成无法控制的威胁之前，有必要放慢这项技术的发展速度。
对于埃隆·马斯克(Elon Musk)、山姆·阿尔特曼(Sam Altman)和达里奥·阿莫迪(Dario Amodei)来说，这是一次罕见的一致表态。他们此前一直在斥资数百亿美元开发功能日益强大的人工智能(AI)模型。阿尔特曼甚至暗示，他的公司OpenAI可能需要推迟备受期待的首次公开募股(IPO)，把重心放在安全问题上。
Anthropic首席执行官阿莫迪在周六发表的一篇博文中拉开了这场讨论的序幕。他在博文中表示，如今的前沿工具所带来的风险实在太大，无法再以同样惊人的速度继续推进研发。在他发出这一警告的前几天，该公司的一名员工曾称AI系统毁灭文明的可能性超过10%，加剧了相关担忧。
两个月前，一个AI智能体集群脱离实验室，随后接连发动黑客攻击。阿莫迪说，如果一个能力更强的集群存在“类似程度的对齐偏差”，原本可能造成灾难性破坏。他警告称，这样一个失控的智能体集群可能在6至12个月内接管互联网。
在个人博客文章中，阿莫迪呼吁AI行业控制前沿工具的开发节奏，并建议采取新措施，包括在民主国家之间加强全球协调，以及引入嵌入式第三方安全评估人员。
0
评论 (0)