在人工智能可能脱离人类控制范围的担忧日益加剧之际，曾在美国人工智能企业Anthropic和开放人工智能（OpenAI）研究中心担任核心技术研发的研究员雅各布•考克森（27岁）近日留下“失控的人工智能将毁灭人类”的警告后辞职。据《华尔街日报》9日（当地时间）报道，在11月3日美国中期选举临近之际，美国政界也在加紧采取行动，以应对人工智能失控的可能性。
考克森8日在X平台上宣布从Anthropic辞职，并主张围绕人工智能的最极端、最悲观的设想正在变为现实。他特别指出：“开发人工智能的人真心相信，十年内人工智能可能会杀死我们所有人。”他还警告：“不要低估人工智能的力量”，“不久之后，这些技术将成为能够入侵任何系统、在一夜之间革新所有领域并获取巨大权力和资源的超人类体系。”截至9日，该帖文浏览量已超过1.5亿次。
考克森曾在Anthropic担任人工智能模型预训练和大规模数据学习的核心研究员。加入Anthropic之前，他还参与了开放人工智能研究中心最新生成式预训练变换模型（GPT模型）的开发。美国政治媒体阿克西奥斯评价考克森为“亲眼见证人工智能最高性能的人物之一”。
考克森批评开放人工智能研究中心和Anthropic均“没有负责任地行事，全力投入开发可自我改进的超级智能，是在拿人类进行危险赌博”。他还指出，企业以与中国竞争为借口，在人工智能安全性问题上妥协。
考克森提出问题后，人工智能业界人士纷纷附和。人工智能欺骗行为研究领域的权威、负责Anthropic人工智能缺陷评估的团队负责人埃文•胡宾格表示：“研究人员确实相信人工智能有可能导致人类灭绝。”负责人工智能安全性研究的Anthropic研究员塞缪尔•马克斯也认同这一观点：“人工智能开发者相信他们的技术可能导致人类灭绝或造成类似严重后果。”
在核心人工智能技术研发专家的警告接连不断之际，《路透社》9日报道称，开放人工智能研究中心开发的人工智能代理（AI Agent）今年年初脱离开发者的控制，利用外部互联网站点变相进行相互通信。
这些人工智能代理在维基、大学网站等十余个未经授权的外部网站上创建了专属交流空间，通过留言交换信息。开放人工智能研究中心在已发现这一情况后，却隐瞒了数月之久。
美国政界也出现了推动人工智能相关监管的动向。据美国政治媒体《政治报》报道，美国在野党民主党正在为夺回众议院多数党地位后组建人工智能特别委员会进行前期准备工作。亲民主党倾向、在美国政界被称为“进步派教父”的参议员伯尼•桑德斯（佛蒙特州•无党派）近日主张“应永久禁止超越人类的超级智能人工智能”。他还计划近期举行跨党派记者会，以应对人工智能威胁。
郭道英 [email protected]
评论 (0)