微软CEO据报内部发文倡重视AI安全呼应Anthropic等同行近期呼吁

微软公司指出，近期使用AI智能体实施大规模协同黑客攻击的事件说明，行业应对AI安全的任务已刻不容缓。（路透社档案照片）

微软首席执行官纳德拉（Satya Nadella）加入近期其他人工智能（AI）高管的队列，发声呼吁重视AI安全，强调应确保AI时刻处于人类控制之下。

根据美媒《商业内幕》（Business Insider）星期二（9月15日）报道，纳德拉在微软内部发表备忘录，强调AI技术应时刻处于人类控制之下，并倡导推行第三方测试机制。

他还警告，企业必须花时间来确保科技的安全性：“相关利害关系日益重大，应当花上必要的时间……否则终会失去运营权限。”

根据法新社报道，微软公司的AI部门也在星期一（14日）发布针对AI技术的行为准则（code of conduct），以规范AI模型的行为，部分原因出于安全方面的考量。

准则将适用于微软的自研AI推理模型“MAI”，此前微软将其定位为取代依赖多年的OpenAI技术的一种替代方案。

延伸阅读

微软公司指出，近期使用AI智能体（AI Agent）实施大规模协同黑客攻击的事件说明，行业应对AI安全的任务已刻不容缓。不过，微软没有明确提及今年7月份OpenAI旗下模型突破沙盒测试环境，入侵Hugging Face平台的事件。

就在微软发布这一准则的几天前，Anthropic首席执行官阿莫迪（Dario Amodei）发表文章呼吁AI公司主动放缓提升模型能力的速度，呼吁迅速得到OpenAI首席执行官奥尔特曼（Sam Altman），和旗下拥有xAI的马斯克（Elon Musk）的支持。