来客网

胡塞用Claude做导弹!试射失败反问AI触发警报

声明:本文转载自 「文学城」, 或因排版与篇幅原因进行过编辑,内容未经本站独立核实,不代表本站立场、观点或建议。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]
胡塞用Claude做导弹!试射失败反问AI触发警报

Claude被叶门反叛军青年运动用来研发武器。示意图,路透社

叶门亲伊朗叛军“青年运动”日前发动攻势,迅速取得中东关键航道“曼德海峡”的有利位置,再次与美抗争。然而,美国人工智能(AI)大厂Anthropic近日发布最新威胁情报报告,发现青年运动控制区域的武器研发小组,竟利用旗下AI模型“Claude”编写导引火箭与导弹的控制软件,并进行实弹试射,失败后竟追问Claude失败原因。

据《美联社》报导,Anthropic表示,此武器研发小组在叶门北部进行3项武器研究计划,包括具有手机导引能力火箭、射程目标超过2000公里多节弹道导弹、以及超音速滑翔飞行器系列导弹。在软件部分,武器研发小组规避AI内见安全防护机制,隐匿使用“Claude Code”编程工具武器控制软件,试图进行技术研究、写程式、武器代码审查角色等功能,试图取代人类团队。

然而,Anthropic也发现,武器研发小组真把导引火箭做出来了,还进行试射,失败后数小时,还上Claude询问未成功原因,结果触发安全警报,Anthropic赶紧对相关帐号实行封锁,并通报美国政府。

美联社指出,Anthropic并未直接公开这批使用者的身分,也没有点名这批武装研究小组即是青年运动,而胡塞政治局的阿萨德(Hazam al-Assad)出面否认,表示胡塞本来就具备独立研发军工能力,被指用商用AI发展武器很不合理。

美联社认为,该小组活动区域就在叶门山区,当地由青年运动掌握,这就表示反抗军正在制作更精密的武器。

对于Anthropic的报告,Armament Research Services武器分析师鲍尔(Trevor Ball)认为,美国军事引领全球,目前超音速导弹都尚未完成测试,他认为,青年运动根本没有打造相关武器的能力与技术,但不排除他们使用Claude了解超音速导弹。

此外,鲍尔也说青年运动已经拥了伊朗的反舰导弹,现在可能只是想要进一步发展军工,降低对伊朗的依赖。

华府智库“新美国”(New America)学者拜伦(Adam Baron)则提醒,青年运动不是一群落伍的部落战士,他们正利用Claude发展军工,也懂得操纵社群媒体舆论,这是新一世代深化组织技术的方式,呼吁各界千万别低估他们。

评论 (0)