01
“我认为AI可能在未来十年内杀死所有人。”Anthropic对齐研究负责人埃文·休宾格说。
这句话之所以让人不安，并不只是因为说话的人把风险估得很高。更麻烦的是，说这句话的人，恰恰来自正在造AI的公司。
从左到右依次为黄仁勋、奥特曼、扎克伯格、马斯克、弗莱尔以及阿莫迪。图片经由AI处理
9月8日，Anthropic研究员雅各布·考克森从公司离职。他过去三年先后在OpenAI和Anthropic从事预训练研究。离职后，他在X上连续发帖，指责两家公司都在向能够自我改进的超级智能冲刺，却没有给出足够的安全保障。他甚至用了“拿我们的生命赌博”这样的说法。
这篇帖子很快获得超过1亿次浏览。随后，Anthropic对齐研究负责人埃文·休宾格则公开回应，称自己也认为AI可能在未来十年内导致人类灭绝，个人估计这一概率超过10%，同时承认Anthropic目前还没有解决超级智能对齐问题的明确方案。
0
评论 (0)