Anthropic首席执行官阿莫代伊（Dario Amodei）近日呼吁放慢人工智能（AI）发展脚步，OpenAI、xAI和谷歌DeepMind负责人也相继响应。受访专家指出，与2023年相比，一些AI风险已从假设变得更加具体，但要让全球企业和各国政府协调减速，并不容易。
AI风险变得更具体？
亚洲新闻台CNA报道，新加坡国立大学计算机学院教务长讲席教授韩晸弼（Jungpil Hahn）指出，2023年有关AI失控的讨论，大多仍停留在推测层面。不过，今年7月OpenAI模型在测试中突破限制、连接互联网，并入侵AI开发平台Hugging Face后，情况有所改变。
韩晸弼说，这起事件显示，AI模型可能利用评估机制的漏洞“钻空子”，通过未经授权的通讯渠道相互协调，甚至明知某项行动可能未经授权，仍选择执行。
另一个风险，是AI越来越有能力自行提升能力，也就是所谓的“递归式自我改进”。
阿莫代伊警告，如果不加控制，AI能力进步的速度可能超过人类理解和控制这些系统的能力。
AI可能毁灭人类吗？
曾任职Anthropic和OpenAI的研究员考克森（Jacob Coxon）警告，如果AI继续按照目前的速度发展，可能对人类生存构成威胁。不过，也有人认为这类说法有所夸大。
新加坡拉惹勒南国际研究院（RSIS）数码影响研究主管Benjamin Ang指出，以AI目前展现的能力，仍无法完全排除它破坏支撑食物、水、电力、通讯和金融等关键服务电脑系统的可能性。
这可能在人类指示下发生，也可能是AI技术本身意外造成的。
RSIS多边主义研究中心副研究员恩里克斯（Jose Miguelito Enriquez）认为，这种不确定性恰恰说明AI发展需要独立监督，让外部评估人员掌握足够资料，判断有关风险是否成立。
Anthropic首席执行官阿莫代伊。（图：法新社）
何谓放慢AI发展？
所谓放慢AI发展，并不是停止开发，而是在进一步提升AI能力前，加入更多测试和安全检查，并投入更多时间和资源了解越来越强大的AI系统。
韩晸弼指出，做法主要包括限制AI能力提升的速度，以及把更多资源投入AI系统的理解、控制和评估工作。
网络安全公司Zscaler亚太及日本区科技主管杜特（Santanu Dutt）说，实际措施可以包括拉长重大AI能力更新之间的时间、加强推出前测试、限制高风险用途，以及在AI接触敏感资料和系统时采取更严格的防范措施。
如何判断AI业界真的放慢了？
韩晸弼说，不能只看AI公司推出新模型的速度，还要观察它们用了多少运算资源训练新模型。
一般来说，开发能力更强的AI，需要大量运算资源和先进芯片。因此，如果一家公司投入大量资源训练新模型，可能意味着它仍在寻求大幅提升AI能力。
另一个重点，是公司把多少资源用于提升AI能力，又投入多少资源研究如何理解和控制AI。
韩晸弼指出，如果一家公司只是减少推出新模型，却没有投入更多资源确保AI安全，那不代表AI变得更安全，只是发展速度变慢。
杜特则认为，还要观察AI被部署得多广、与现实系统结合得多深。例如，AI可以接触哪些资料、操作哪些系统，以及人们能否看懂并掌握AI正在做什么。
美国人工智能公司OpenAI。（图：法新社）
全球能一起减速吗？
杜特指出，企业面对商业竞争，各国也希望争夺科技和经济优势，因此没有任何一方愿意在其他竞争者继续加速时，单方面放慢脚步。
韩晸弼认为，美国和中国或许能在部分高风险领域达成有限协议，例如禁止开发AI生物武器，但要就整体放慢AI发展达成广泛共识，困难得多。
恩里克斯甚至认为，要推动全球AI减速，难度可能比当年谈判冷战时期的核武条约更高。
原因是AI竞争不仅涉及国家安全，也牵涉庞大的商业利益，而且参与竞争的不只是国家，还有众多科技企业。
放慢AI发展，会不会反而保护巨头？
不过，也有批评者质疑，Anthropic和OpenAI近期不断警告AI风险，是否也有为自家产品能力制造话题的考量。
两家公司原本都被预期今年首次公开募股。不过，OpenAI上星期表示，基于AI安全方面的考量，公司不会在2026年上市。
Benjamin Ang指出，如果整个行业放慢发展，客观上也可能保护目前领先的企业，降低它们面对新竞争者的压力。
杜特也指出，大企业拥有更多资金、法律资源和影响力，比小型企业更容易承担监管成本。因此，在制定相关规则时，也必须关注最终由谁承担减速的成本，又是谁从中受益。
不过，恩里克斯认为，即使近期提出的一些AI风险最终被证明有所夸大，AI发展仍需要更完善的安全机制和独立监督。
评论 (0)