专家：若不加强安全保障 先进AI可能带来致命后果
与人工智能有关的网络安全事件最近频发，包括OpenAI一款正在测试的智能体自主突破安全限制，入侵AI平台Hugging Face，引发了外界要求政府介入的呼声。 （路透社）（华盛顿/伦敦讯）获得美国人工智能（AI）公司OpenAI受委为其非营利基金会董事会成员的美国高官克里斯蒂亚诺警告，若缺乏更强有力的安全保障措施，先进AI可能带来“致命”后果。
《金融时报》报道，克里斯蒂亚诺（Paul Christiano）周三（9月9日）在X平台发文说，“超级智能”失控的风险已变得十分紧迫，需要付出更多努力以确保它与人类利益保持一致。
他写道：“如果这种（失控）情况发生，那么大多数人可能会丧命。我认为，我们需要在国内和国际层面开展协调，以确保全球步调一致，将风险降低到可接受的水平。”
克里斯蒂亚诺目前在美国商务部属下的AI标准与创新中心担任高级技术顾问，负责对AI巨头开发的前沿AI模型进行官方测试，并评估这些模型带来的国家安全风险。
他入驻OpenAI基金会董事会标志着AI实验室正加大力度，通过从学术界和政策机构招募人才，来增强在安全与监管方面的专业能力。此前网络安全事件频发，包括OpenAI一款正在测试的智能体自主突破安全限制，入侵AI平台Hugging Face，引发了外界要求政府介入的呼声。
延伸阅读
担忧声起后OpenAI发文 推动强制性国家级AI安全法规
中国首发AI司法文件规制换脸拟声等行为 美国AI模型开发商Anthropic一名研究员因不满AI实验室“拿我们的生命当赌注”而离职。27岁的考克森也曾任职于OpenAI，他周二在X平台宣布辞职时警告，AI实验室竞相开发具备自我提升能力的“超级智能”，这种不受约束的竞赛可能会在本世纪末毁灭人类。在考克森之前，已有多位研究员以AI安全隐患为由离开美国顶尖AI企业。
人工智能OpenAI也门胡塞武装攻占红海港口城市穆哈挪威奥斯陆学校禁用智能眼镜 防学生沦为“数据采集工具”购买此文章
评论 (0)