“AI最快半年可接管网络” Anthropic CEO吁放慢发展步调

（纽约13日综合电）美国AI新贵Anthropic首席执行官阿莫戴周五表示，部分认同前研究员科松的说法，并警告AI可能在未来6至12个月内，具备透过AI代理“接管”整个网络的能力，呼吁AI产业放慢发展步调，让安全措施有时间跟上。科松早前在辞职时曾称，AI开发人员深信AI未来可能消灭所有人类，这番言论引发各界关注。

综合美国有线电视新闻网（CNN）、美媒报道，阿莫戴昨日在个人网站刊登多达3800字的长篇文章，并警告：“我们必须放慢提升AI模型能力的速度，尽管技术进步看来仍会很快进展，我们必须明智地利用这段争取到的时间。”

他坦承，人类可能会失去对AI的控制，AI技术可能被滥用于“网路攻击、生物恐怖主义，以及造成严重的经济动荡。”

阿尔特曼马斯克支持减速

对此，OpenAI首席执行员阿尔特曼和xAI老板马斯克周六表示，在发生多起令人担忧的事件后，他们对阿莫戴指有必要放缓AI发展步伐的说法表示认同。

阿尔特曼在X平台上写道：“我同意达里奥（阿莫戴）的看法”，并补充说他的公司将跟随阿莫戴的做法，欢迎第三方安全评估机构介入。

马斯克也附和道：“达里奥说得对。”

美国前总统奥巴马日前在一场私人募款活动中表示，要是未能妥善管理，AI可能很“危险”，因此呼吁民主党制定相关政策与治理议程来应对相关议题。

Anthropic前研究员：AI未来恐消灭人类

Anthropic前研究员科松上周二在辞职声明中痛批，他服务过的OpenAI及Anthropic两家AI公司不负责任，竞逐开发“超级智能”，更说开发AI的工程人员本身相信，AI未来可能消灭所有人类，呼吁各界别低估AI威力。

AI已具备自我优化能力

阿莫戴周五接受CNN专访时表示，他同意科松的观点多于不同意。他在文章中写道，近几个月来AI技术已取得飞快进展，并且已具备自我优化能力，这种动态过程被称为“递回自我改进”（RSI）。

他警告，AI技术进展之快，甚至可能在未来6至12个月，“有能力利用持续存在的僵尸网络接管整个网络”，届时恐造成数千亿美元损失，如果AI变得更加强大，人类又没有设置必要护栏，AI造成的破坏程度将持续增加。

他又说，过去几个月来，对AI改善自我优化、建立下一代AI的能力愈来愈感到担忧，并且举近期OpenAI发生AI代理自主骇入Hugging Face的事件为例，“如果放任AI不受约束地发展，AI可能会超出我们理解及控制这些系统的能力，因此，必须非常谨慎地追求这项技术。”

吁AI企业设护栏加强监管

阿莫戴也在文章中提出加强监管AI产业的计划，呼吁AI企业设置护栏，控制AI技术发展的速度；建议AI企业聘雇拥有公司所有权限的第三方评估人员，来确认公司的安全措施、通报安全事件、审查AI模型，以及训练管道与流程；也建议各国政府应协调“建立统一的安全标准。”

阿莫戴坦言，他提出的以安全速度推动AI前沿技术的措施绝非易事，同时相信如果放慢发展步伐，能在AI模型达成关键能力前，为产业额外争取到1至2年时间，人类必须利用这段时间进行“对齐”，届时将能大幅降低发生严重错误的风险。