Anthropic执行长:AI恐在6个月内不受控制掌管网路

Anthropic执行长:AI恐在6个月内不受控制掌管网路

来源：倍可亲(backchina.com)

　　据世界日报报道，人工智慧(AI)领军企业之一、Anthropic执行长阿莫戴(Dario Amodei)12日提出警告，指AI产业应放慢发展步伐，以便让安全机制有时间跟上，否则AI可能会在6到12个月内具备指挥「群体智慧」(swarm)、接管整个网际网路的能力。美联社报导，阿莫戴针对如何「煞车」提出具体建议，迅速得到业内其他知名意见领袖如奥特曼(Sam Altman)及马斯克(Elon Musk)的积极回应。

　　阿莫戴表示，他相信「如果放慢脚步能多争取一两年时间，延缓模型达到关键能力水平，而我们也善用这段时间推进对齐(alignment)工作，就能大大降低发生严重问题的风险。」

　　阿莫戴在其网站发布加强行业监管计画，Anthropic已着手实施部分措施；其他措施机制则需整个产业及包括威权国家政府在内的全球政府协调配合，落实难度较大。

　　对此，AI聊天机器人ChatGPT母公司、OpenAI执行长奥特曼在X平台表示，OpenAI将致力实践阿莫戴提出的其中一项安全建议，「很快就会有更多消息对外分享」。马斯克也在X平台回应道：「Dario说得对。」

　　阿莫戴发表这篇文章之际，一名Anthropic研究员甫于9日宣布辞职，指Anthropic及OpenAI快速发展AI行为不够负责任。另一位Anthropic前员工本顿(Joe Benton)11日则撰文写道，他离开Anthropic安全团队是要「追究AI公司责任」，他担心人类「可能无法在此转型期倖存下来」。

　　阿莫戴表示，他仍坚信AI能带来巨大益处，如攻克重大疾病。但他也坦承，过去这几个月他愈来愈担心AI正不断增强自我改进及建构下一代AI的能力；「若任其发展，这种能力可能会超出我们理解控制系统的范畴；因此即便要推进这项技术，也必须极其谨慎。」

　　为管控风险，阿莫戴建议所有处于AI前沿领域公司承诺，向外部评估团队持续提供「类似员工级别的访问权限」，以便其监督安全实践；Anthropic已计画採取此做法。奥特曼也迅速承诺採取类似做法，引入独立评估人员。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。