辞职研究员示警引关注 “AI巨头豪赌人类生命”

（旧金山10日综合电）人工智能（AI）发展速度持续加快，但伴随而来的安全疑虑也愈演愈烈。美国AI前沿企业Anthropic的研究员考克森日前辞职，他社交媒体发表长篇文章，直指他过去3年先后任职的Anthropic和OpenAI，目前的发展方向“正在拿人类的生命下注”，引发外界对AI失控风险的高度关注。

考克森指出，“这两家公司都没有表现出应有的责任感。它们正一头扎进自主进化的超级智能研发中，却在拿我们的生命做赌注，”指这些AI系统很快就会拥有超越人类的超级智能，可以入侵任何东西、一夜之间彻底改变任何领域，并获得真正的权力和资源。

考克森指，开发AI的团队“真心认为，到2030年前后，它可能会杀死我们所有人”。

未确保AI系统服从创造者

Anthropic现任负责对齐（Alignment）工作的小组组长胡宾格回应帖文，指他和公司其他人的确担心考克森所讲的情况，Anthropic正在“尽最大努力”，但目前尚无计划来确保一个能力超越人类的AI系统会服从其创造者，又表示自己认为，未来10年内发生这种情况的概率超过10%。

考克森认为，Anthropic的努力是真诚的，但在没有政府干预或协调放缓的情况下，没有公司能够负责任地开发出超越人类的AI。

为利益竞赛 不顾风险开发

他说：“Anthropic非常清楚其中的利害关系，但他们陷入了一场争先恐后的竞赛，他们认为其他任何公司都不会负责任地行事，因此尽管存在风险，他们也必须自己来做。”

今年2月，Anthropic从其安全宪章中删除了“若无法控制模型风险则停止开发”的承诺，并称如果其单方面暂停他们的研发，其行事较不谨慎的竞争对手将主导该行业，从而导致整个行业的安全性下降。

7月底，包括Anthropic首席执行官达里奥阿莫戴在内的千多名科技行业从业人员呼吁华盛顿支持协调放缓最先进人工智能系统的开发进程。

OpenAI于8月暂停了其最新模型的训练两周，随后在更严格的管控下恢复训练。

星期日，OpenAI首席科学家雅库布帕霍基呼吁采取“极端谨慎”的态度，“就未来人工智能发展达成国际协调，必须成为全球各国政府的头等要务。”

在美国，AI模型目前不受联邦法律监管。9月，参议员桑德斯和民主党众议员卡萨尔提出一项法案，旨在暂停AI开发直至成立联邦监管机构。

盖茨：入门中阶工作将消失

另外，愈来愈多工作面临被机器或软体取代。微软创办人比尔盖茨近日示警，许多职缺可能“永久消失”，其中入门及中阶工作首当其冲，软体开发、数据分析、贷款审查等工作都可能受到影响。

比尔兹茨近日在个人网站撰文指出，年轻人通常从入门职缺累积经验，再逐步向上发展，但随着AI取代基层工作，年轻人可能失去磨练与进入职场的机会，因此他尤其担心年轻世代面临的就业冲击。

他点名，业务、客服、软体工程及法务助理等可能最早受到影响，之后还将扩及贷款审查、数据分析，甚至病人分级等需要专业训练的工作。比尔盖茨认为，未来10年间AI的影响将快速扩散至各产业，若缺乏适当政策，新创造的工作机会恐不足以弥补消失的职缺。

不只白领工作受到威胁，机器人也可能冲击劳力市场。比尔盖茨举例，当一名员工时薪20美元（约81.30令吉），却能以相当于时薪10美元（约40.70令吉）的机器人取代时，企业自然会有强烈的自动化诱因。他预估到2030年前后，智慧机器人可能开始在建筑、酒店等产业与人类竞争工作。

比尔盖茨指出，一旦企业开始利用AI与机器人降低成本，竞争对手也将承受跟进压力，进一步加快自动化速度，导致就业市场受到更剧烈冲击。