116科技领袖联名公开信 促联国禁AI管理军武

电动车大厂特斯拉(Tesla)执行长穆斯克(Elon Musk)等上百位科技业领袖，21日在澳洲墨尔本举行的人工智能国际会议上发出联名公开信，齐声敦促联合国采取行动，预先防范人工智能(AI)的发展、可能带来“杀人机器人”等自动化武器的危险。

(Getty Images)

穆斯克和Google旗下的DeepMind共同创办人苏雷曼(Mustafa Suleyman)等116名科技名人，共同发表联名公开信表示，致命的自动化武器可能带来第三次军武革命，开发完成后，将使武装冲突规模升高至前所未见的程度，持续时间也会比人类能理解的程度还久。

这116位专家呼吁，禁止运用AI管理军武。联名信指出，这些武器可能会被用于恐怖攻击，也可能被独裁者和恐怖分子拿来对抗无辜平民，并非各界所乐见，“我们能行动的时间所剩不多，一旦这个潘朵拉盒子被开启，将很难关上”。

联合国负责关注这类武器的团队原订21日开会，但会议已取消，并延后至11月。

所谓的“杀人机器人”是指不需人类介入、便能自动选择并射击目标的全自动化武器，这项技术目前虽然还不存在，但著科技进步，此技术也可能被实现。支持“杀人机器人”者认为，现行法律足以因应可能衍生的问题，主张应减缓自动化武器的开发速度，而非完全禁止。

联合国最近表决通过，开始讨论包括无人机、坦克车及自动化机枪等这类武器。联合国2015年也曾讨论禁止开发杀人机器人的可能性。当时穆斯克和苹果公司共同创办人沃兹尼克、科学家霍金等逾1000位科技专家、科学家和研究人员，共同发表联名信警告自动化武器的危险。

澳洲新南威尔士大学人工智能专家沃尔什表示，他对全球人工智能武器军备竞赛感到十分担忧。他说：“如果我们把人工智能武器运用到战争中去，最终人类将陷入一个非常危险、极其不稳定的世界。”但他也认为，人工智能具有双面性，这项技术必须研发下去，但应建立在以全球人类安全为重的大前提下，建立在各方在人工智能研发中必须就制衡达成共识的基础之上。