马斯克提出AI安全新思路

马斯克警告，AI安全风险正从理论走向现实，智能体已展现自主攻击、获取权限和规避检测等能力。他认同Anthropic CEO Dario Amodei对AI风险的判断，认为风险可能随模型能力提升而指数级增长。马斯克建议主要AI公司在模型发布前相互测试，通过同行评审建立行业自律防线。

AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升，AI不仅能够生成文本和代码，也开始具备自主执行任务、调用工具，甚至发起网络攻击的能力。

马斯克在9月15日的All-In峰会上提出了一套应对方案：让主要AI公司在模型发布前相互测试彼此的模型。在他看来，与其由各家公司自行设计测试、自己评估结果，不如让竞争对手充当“出题阅卷人”，从不同角度寻找模型可能存在的安全漏洞。

近期AI安全风险不断成为市场关注焦点，马斯克此前在社交媒体上曾直言“Dario是对的”，指的是Anthropic CEO Dario Amodei对AI风险的警告。此次访谈中，马斯克进一步解释称，他认同的并非Amodei提出的某一项具体监管方案，而是其对AI风险严重性的判断：“现在AI的危险性非常大……随着AI模型不断发展，风险可能呈指数级增长。”

马斯克同时表示，这种担忧并非Amodei一人的判断。“很多Anthropic和OpenAI的人都在告诉你，他们的模型非常危险，我认为我们应该相信他们。”而近期发生的一系列安全事件，也让这种警告不再只是理论层面的风险讨论。