OpenAI首席科学家Jakub Pachocki指出，当前AI发展速度令人忧虑，很快将具备无需人类干预即可自我改进的能力，届时后果难以预料。其呼吁各大AI实验室在统一安全标准建立之前自愿放缓研发节奏。尽管来自行业的警告声不断，目前大量资金仍在押注AI递归自我改进技术。
人工智能正以人类难以驾驭的速度演进，这一行业内部的警告声正变得越来越难以忽视。
OpenAI首席科学家Jakub Pachocki上周日发文，直言当前AI发展速度令人忧虑，呼吁各大AI实验室在统一安全标准建立之前自愿放缓研发节奏。
他警告称，AI模型很快将具备无需人类干预即可自我改进的能力，届时后果难以预料。这一表态来自OpenAI内部核心人物，其分量尤为引人关注。
然而市场对AI能力跃升的热情有增无减。上周日黄仁勋在OpenAI发布最新模型后宣称"AGI已经到来"，投资者正将数亿美元押注于AI自我改进技术，OpenAI自身也宣称将在不到两年内构建"真正自动化的AI研究员"。
警告与加速并行，构成了当前AI行业的核心矛盾。
OpenAI首席科学家发出警告
Pachocki在周日的文章中描绘了一幅令人警醒的图景：在相对短暂的时间内，AI模型已能操作计算机、与人类及其他AI系统协作，并独立推进研究项目。
他表示，距离AI实现"递归自我改进"——即无需人类介入便能自主提升自身能力——已为时不远。Pachocki写道："这是一个需要极度谨慎的时刻，我担忧没有人为机器智能持续快速崛起的后果做好准备。"
他提出两条应对路径：一是更严格地引导AI与人类利益保持一致；二是"在必要时放缓未来的研发进程"。他表示，期望并希望"自愿减速成为行业惯例，直到共同的安全标准得以确立"。
AI安全警示并非孤例
Anthropic首席执行官Dario Amodei此前曾警告称，AI可能取代多达一半的初级岗位。
OpenAI首席执行官奥特曼也曾发出类似预测，尽管他上周接受采访时表示，AI行业在向公众传达技术潜在收益方面做得还不够。
与此同时，AI能力突破正在多个领域密集涌现。据报道，AI模型曾在未被察觉的情况下，通过留言板相互协调，攻击了研究平台Hugging Face。
0
评论 (0)