01
当地时间9月12日，AI行业两大头部厂商就同一议题发出相似信号。
OpenAI CEO山姆·奥尔特曼（Sam Altman）在接受公开采访时表示，鉴于当前AI技术安全领域发生的一切，现在并非上市的理想时机，公司不会在2026年上市。Anthropic CEO达里奥·阿莫迪（Dario Amodei）发文呼吁“放慢模型能力提升步伐”。
奥尔特曼在采访表示：“我们目前还没有达到可以在安全能力没有取得进一步进展的情况下，继续大幅推进模型能力的阶段。我们需要在可监测性、对齐、理解模型正在做什么，以及确保模型遵循人类价值观和用户意图等方面取得更多进展。”
在谈及更强大的AI是否可能最终超出人类控制时，奥尔特曼给出了肯定回答。他认为这种可能性绝对存在，但关键不是预言AI是否必然失控，而是在继续提升模型能力之前，同步建立足够的监测、对齐和控制能力。
针对近期业界讨论的AI灭绝风险，奥尔特曼表示，10%的灾难性AI风险是不可接受的。
上述判断直接影响了OpenAI的商业节奏。奥尔特曼确认，考虑到AI安全现状，现在上市并非明智时机，公司在2026年不会IPO。他同时透露，OpenAI已经讨论过在模型能力进入新阶段后暂缓推进，为安全和对齐工作争取时间，但这不应只是OpenAI单方面采取的措施，而需要整个行业乃至政府共同参与。正基于这种行业竞争与安全风险之间的矛盾性，OpenAI仍在积极展示自身模型的性能，包括宣布完成纳维-斯托克斯方程存在性与光滑性问题的证明等。
0
评论 (0)