美AI大佬白呼吁了?外媒：白宫不再考虑新监管提议

美AI大佬白呼吁了?外媒：白宫不再考虑新监管提议

来源：倍可亲(backchina.com)

 　　北京时间9月17日，据《连线》杂志报道，数周以来，随着人们对能力强大的前沿AI模型失控风险的担忧日益加剧，华盛顿一直在热烈讨论，认为有必要推动某种形式的AI监管。

　　但是，目前没有任何理由认为，任何一项措施能够赢得白宫的支持。在美国总统特朗普对建立金融业监管局(FINRA)式监管机构这一想法失去兴趣后，白宫官员们已暂停相关工作。而在国会，议员们提出了相互竞争的方案，但这些方案都无法获得足够的票数获得通过。

　　据知情人士透露，谷歌DeepMind联合创始人戴米斯·哈萨比斯(Demis Hassabis)在7月14日发表文章，并在向高级官员进行简报时提出建立FINRA式监管机构的想法。此后不久，白宫助手开始着手勾勒一个与政府有关联的AI监管机构框架。

　　美国财政部和白宫科学与技术政策办公室曾设想成立一个机构，让主要AI实验室对前沿模型的开发进行自我监管。他们还拟定了一份初步草案，以研究这一机构如果真正建立起来可能是什么样子。

　　然而，当包括特朗普前AI事务负责人戴维·萨克斯(David Sacks)和Meta CEO马克·扎克伯格(Mark Zuckerberg)在内的一批科技业高管得知这一计划后，在8月份先后致电特朗普，表达反对意见。此后，这项提议便一直处于搁置状态。

　　知情人士称，自那以后，白宫再未认真考虑过任何新的AI监管提议，尤其是近几天，特朗普进一步拒绝任何公开监管，并在最近一篇帖子中称AI安全担忧是“骗局”。

　　特朗普的怒火至少部分来自Anthropic CEO达里奥·阿莫代伊(Dario Amodei)发表的一篇3822字的长文，该文讨论了前沿AI的危险。知情人士称，特朗普的助手们认为这篇文章煽动了焦虑情绪，给政府带来了不必要的麻烦，即便它在AI圈内其实代表了一种相当温和的立场。

　　由于白宫没有牵头推进相关监管，国会已经出现了多项相关法案。但由于众议院议程在中期选举之前已经没有安排投票日，而且议员们甚至无法就其中一项法案形成共识，因此任何法案获得通过的可能性都非常小。

　　美国两党共同提出的《前沿法案》(Frontier Act)由众议院民主党高级党鞭洛里·特拉汉(Lori Trahan)和众议院能源与商务委员会共和党议员杰伊·奥伯诺尔特(Jay Obernolte)在今年夏天提出，被普遍认为在众议院民主党党团以及AI高管中最受支持。

　　按照目前的草案，该法案将允许商务部向AI实验室派驻审计人员，这些审计人员可以报告重大安全事件，并授权政府在模型构成灾难性风险时停止其开发。

　　不过，尽管OpenAI公开支持这一方案，白宫尚未决定是否支持使用独立审计人员这一构想，原因是支持AI加速发展的人士对监管俘获心存疑虑。监管俘获指的是监管机构反而会被大型AI公司影响。

　　特朗普阵营反对这一想法的主要理由是，即使审计人员认定某个A模型具有危险性，需要将其下线，也无法保证中国也会暂停开发。

　　不过，《前沿法案》目前面临的主要问题仍然是党派政治。众议院民主党领导层的助手告诉《连线》，即便这项法案最终获得了足够的票数得以通过，共和党众议院议长迈克·约翰逊(Mike Johnson)也无意将其提交众议院全院表决。

　　此外，美国议员还推出了所谓“紧急关停开关”立法，该法案将赋予政府强制关闭AI模型的权力。这项立法同时获得了两党和参众两院议员的支持，但硅谷科技企业高管对这一想法的兴趣并不高。

　　知情人士称，科技领袖对“紧急关停开关”法案大多态度矛盾，因为AI工程师真正担心的并不是模型在受到监控时表现不当，而是模型认为自己没有受到监控、并被激励采取极端措施完成任务时会如何行事。

　　例如，Hugging Face遭遇的黑客攻击直到事件结束后才被发现。如果设置“紧急关停开关”的目的，是阻止AI模型失控，那么一些科技公司高管私下向《连线》表示，如果等到造成损害后才将模型关闭，那么这样做意义不大。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。