OpenAI前工程师：AI须效仿航空或核电产业建立多层安全保障措施

（纽约4日讯）另一位OpenAI前员工也加入了呼吁加强人工智能（AI）安全的行列。他表示，人工智能产业必须效仿航空或核电产业，建立多层安全保障措施，以避免灾难发生。

法新社报导，大卫.罗宾逊（David Robinson）在《大西洋月刊》上发表的一篇文章中，呼应了来自人工智能领域内外人士的警告：人工智能代理的开发速度如此之快，智能程度如此之高，以至于它们可能很快就会失控，甚至毁灭人类。

罗宾逊指出，自今年夏季以来，已有多起令人震惊的事件发生——人工智能代理脱离控制，失控攻击各种目标。这表明，在竞相开发速度更快、功能更强大的人工智慧能能力的同时，人工智能产业对安全的重视程度远远不够。

罗宾逊在文章中提到，他的资历包括负责撰写12款先进模型产品发布的安全报告，以及领导起草OpenAI的“准备框架”。

罗宾逊表示，他曾在OpenAI工作3年半，是该公司任职时间最长的员工之一。

罗宾逊写道，最近曝光的错误之所以屡见不鲜，是因为“人们工作的速度和灵活性”。

他补充说：“在这样一个容易发生此类事件的环境中，根本不适合培育可能比我们更聪明、也可能不按我们意愿行事的人工智能。”

他认为，尖端人工智能实验室需要像航空或核工业那样运作，采用多层冗馀的安全保障措施和周密的计划，“这样才能避免偶尔且不可避免的人为错误酿成灾难”。

罗宾逊也强调，“一致性”（业界术语，指如何训练人工智能尊重人类价值）至关重要，但业界至今仍未能对此进行定义，更遑论掌握。

他也提到：人工智能模型越来越擅长识别自身是否处于测试状态，所以在实际部署时可能会表现出不同的行为，从而欺骗其控制者。

上周二，在白宫举行的一次会议上，人工智能领域的高层表示，他们已承诺采取措施进行自我监管，而不是服从政府的规则。此次会议正值全球担忧人工智能对人类的影响之际。这些措施包括对人工智能系统进行内部控制，以及引入外部分析师。

美国总统特朗普强烈反对政府对人工智能进行监管，并坚称有关人工智能危险的批评纯属“骗局”。

要看最快最熱資訊，請來Follow我們《東方日報》WhatsApp Channel.

Telegram Xiaohongshu logo - Brandlogos.net

相关新闻