安全担忧加剧 AI巨头寻求自我监管

（华盛顿16日法新电）全球最大的人工智能（AI）企业正着手成立一个标准制定机构。ChatGPT开发商OpenAI周二表示，随着外界对AI潜在风险的担忧升温，以及要求打造更安全AI技术的压力不断增加，业界正推动成立相关机构。

OpenAI表示，它正在与Anthropic和谷歌合作推进这一想法，该想法源于谷歌DeepMind的哈萨比斯提出的一项建议，即仿照美国金融业监管局创建一个自我监管机构。该机构监管美国经纪商和投资公司。

今年7月，哈萨比斯呼吁美国创建一个组织，在最强力的AI系统向公众发布之前对其进行测试。

他写道：“资金需要相当充足，且很可能主要来自行业，以便吸引世界级技术人才，并为大规模测试提供必要的算力资源。”

OpenAI首席执行员阿尔特曼周二对全行业合作表示支持，并承认公众担心公司之间和国家之间的竞争可能会将安全置于次要位置。

他在旧金山由Salesforce主办的一场会议上表示：“我认为，对我们行业来说，能够说我们希望团结起来、希望能够协调并确保我们有足够时间安全地做到这一点，是件好事。”

他补充道：“当有人暗示……”业界一些企业可能“没有做正确的事情时，我认为这正是人们感到非常害怕的时候。”

一些科技界人士担心，AI巨头之间的合作将排挤较小的竞争对手。

加拿大AI公司Cohere的负责人最近指责，占主导地位的美国AI实验室以安全为幌子组建“卡特尔”。

Cohere联合创始人兼首席执行员戈麦斯在星期日的一篇博客文章中写道：“AI需要护栏。这不是争议所在，也从来不是。争议在于谁来制定这些护栏，谁能够参与，以及这些规则在保护谁的利益。”

最近几周，对AI安全的担忧不断升级，其中包括一些从大型AI公司辞职的员工发出的警告，他们对行业风险感到担忧。

上周，研究员考克森离开了Anthropic，并警告称AI实验室正在“拿我们的生命赌博”。他此前也曾在OpenAI工作过。

前谷歌DeepMind研究员丘格泰周一呼应了考克森等人提出的担忧。

他在社交媒体上写道：“我真诚地相信，AI有可能杀死我们所有人，而我们可能已经没有时间避免这一结果了。”

Anthropic首席执行员阿莫戴上周六呼吁放缓AI发展步伐，阿尔特曼、马斯克和哈萨比斯都支持这一观点。

美国参议员桑德斯对AI可能带来的灾难性后果感到担忧。他表示，不能信任科技领袖会兑现放缓开发或制定安全标准的承诺。

“当人类的未来岌岌可危时，我们需要具有约束力的国际安全规则，而不是来自行业的自愿标准，”他在华盛顿的一场AI安全活动上表示。

阿尔特曼警告称，大大小小的AI事故可能不可避免。

“任何新技术的事故都是不可避免的，我们应该建立一种伟大的文化，透明地报告这些事故。”

他继续写道：“从中快速学习并在事故发生时就进行调整，我认为这将有利于我们的行业，也许我们能够避免”更大的、可能具有灾难性的事件。”

谢谢你，特朗普

美国总统特朗普周一将有关AI风险的警告斥为“骗局”。

辉达首席执行员黄仁勋也予以反驳，暗示他认为有关AI的警告是协调一致的行动的一部分。

他周一在洛杉矶一场会议上说：“这些言论接连出现，再加上随后的预测，令人感到震惊和不安。这种做法不应该发生，是不负责任的。”特朗普当时还在他登台发言期间致电给他。

黄仁勋在通话中感谢特朗普“看穿”了有关AI的警告。

辉达处于AI革命的核心，其晶片为绝大多数系统提供动力，黄仁勋已成为特朗普的非正式顾问。