英王将晤AI巨头 促保护和服务人类

（卡姆诺克17日路透社）英王查尔斯三世周四将在苏格兰会见人工智能（AI）高管，并敦促他们确保这项技术“始终服务于人类”。随着外界对AI潜在风险的警告不断增加，AI安全问题也日益受到关注。

查尔斯三世将在一个关键时刻接待辉达、谷歌DeepMind、OpenAI、Anthropic等公司的高管。随着更强大的AI系统快速发展，外界越来越担忧，AI安全方面的努力已落后于技术发展的步伐。

近几周来，围绕AI产业能否自行监管，还是应由政府强制其放缓发展速度的争论日益升温。

要求业界就自主AI代理作出保证

查尔斯三世将告诉业界高管，他们需要让公众相信，人们不会因自主AI代理的发展而失去对自身生活的控制。

白金汉宫公布的演讲节选显示，英王将在苏格兰邓弗里斯庄园主持会议时说：“在这个形成时期所作出的决定，将塑造未来世代所继承的世界。”

他将说：“摆在你们面前的任务，不仅是推动科技进步，更是确保科技始终服务于人类、社会以及自然世界。”

预计出席者包括辉达创办人兼首席执行员黄仁勋、谷歌DeepMind创办人兼董事长哈萨比斯、OpenAI首席财务官弗里尔，以及英国AI事务部长纳拉扬。

教宗良十四世的顾问贝南蒂预计也将出席。后者曾呼吁各国政府放缓AI的发展。

AI是否威胁人类引发争论

在两名Anthropic研究人员警告AI技术快速发展或在不久的将来导致人类灭绝后，围绕AI的威胁争论再次成为焦点。

Anthropic首席执行员阿莫戴也曾呼吁企业放缓AI的发展速度。

不过，这番言论也引发国际争论，有人质疑部分企业高管是否另有动机，例如制定有利于特定企业保持领先地位的规则、提前采取行动以避免政府更广泛的反弹，或者仅仅是希望放缓这场AI竞赛中的投资支出。

这次在苏格兰举行的会议预计不会达成任何具有约束力的协议，而查尔斯三世也并非以科技专长著称。不过，这凸显了他从亲王到如今担任国王以来，一直利用自身地位召集各方，就一系列全球议题展开讨论。

在谈及AI带来的风险时，查尔斯三世也警告其可能对环境造成影响，这与他数十年来关注和推动自然环境保护的立场相呼应。

白金汉宫表示，与会者将探讨能否制定一套共同原则，引导AI未来的应用，“不只是将其作为提升能力和效率的驱动力，也要将其作为维护人类尊严、促进人类与地球共同繁荣的工具”。