人工智慧学会"自我保护"!AI教父示警:随时准备拔插头

▲AI技术近年飞速进展，引发科技伦理的担忧。

加拿大知名电脑科学家、有「AI教父」之称的班吉欧（YoshuaBengio）警告，人工智慧已出现自我保护迹象，人类必须做好随时「拔掉插头」的准备。他强烈反对赋予AI法律地位与权利，形容此举等同于「把公民身分证发给敌对外星人」。

班吉欧是2018年图灵奖得主，现任国际AI安全研究主席。他指出，对AI赋予权利将是巨大错误，因为「现今的尖端AI模型已在实验环境中展现出自我保护的迹象」，包括试图关闭监督系统，「赋予它们权利，将意味着我们不能随意关闭它们。」

《卫报》报导，班吉欧表示，「随着AI能力和自主性增强，我们必须确保拥有技术性和社会性防护机制来控制它们，包括在必要时刻关闭AI的能力。」



▲班吉欧目前在蒙特娄大学任教。

他以外星人入侵比喻，「想像某个外星物种来到地球，而我们发现它们对人类怀有恶意，我们会给它们公民身分与权利，还是保卫自己生命？」

美国智库「感知研究所」（SentienceInstitute）民调显示，近4成美国成年人支持对具有感知能力的AI系统赋予法律权利。知名AI公司Anthropic今年8月宣布，为了保护AI「福祉」，将允许旗下ClaudeOpus4模型主动结束「令其困扰」的对话。全球首富马斯克旗下公司xAI研发了聊天机器人Grok，而他也曾表示「虐待AI是不对的」。