博斯特罗姆：超级智能时代劳动和成长失去价值

　　哲学家尼克·博斯特罗姆（Nick Bostrom）近年来一直在对超级智能诞生后的文明进行思想实验。他设想在人工智能（AI）帮助下，实现没有贫困、疾病和战争的“深度乌托邦（Deep Utopia）”，探索届时人类将会发生什么。

　　博斯特罗姆经常被称为“当代最具智慧的人物”。在2014年出版的著作中，他向世界传播了失控的AI有可能毁灭人类这一问题意识。引发了关于AI安全性的争论，影响了企业家埃隆·马斯克和萨姆·奥尔特曼等人。

　　在10多年后的如今，博斯特罗姆关注的是AI超越人类智慧的奇点（Singularity）之后的事情。他表示，“如果认真思考超级智能的诞生意味着什么，就会意识到这种变革是更加深远的”。

　　“劳动、努力和成长的价值将消失”

　　如果能与解决所有课题的超级智能共生，人类或许就能享受物质繁荣。但作为代价，必须直面“为了什么而活”这一根本性课题。

　　博斯特罗姆在2024年出版的著作中提出看法称，超级智能的出现会使人类的劳动、努力和成长的价值消失。他认为，解决匮乏和各种限制的活动，一直是让人类切实感受到生存意义的手段，这一点将变得更加清楚。

　　他预测人们将开始主动在日常生活中设置类似游戏的人工目标和限制，以重新获得人生的意义感。“教育体系也将发生变化，未来培养的将是更善于享受人生的人才”。

　　日本经济新闻的《超级智能》系列连载的采访小组在2025年6月刊登的第一期中预测，能够进行自我改进的AI一旦出现，将引发指数级技术进化，并彻底改变人类文明。

　　在约1年的连载中，技术创新取得飞跃式进展，那个瞬间似乎正在一刻一刻地接近。作为最尖端AI“Claude Mythos”的开发公司，美国Anthropic的CEO达里奥·阿莫迪认为，最快在1～2年内AI有可能开始自我改进。

　　开发竞争加剧AI失控风险

　　目前还无法保证人类能够控制高级AI，防止其失控。美国的非营利组织机器智能研究所（MIRI）的所长内特·苏亚雷斯（Nate Soares）感叹道，“虽然花了超过10年时间研究安全对策，但距离实现（防止AI失控）还很遥远”。 

　　科技企业之间试图超越对方的开发竞赛正在使事态进一步恶化。2026年6月，阿莫迪提议，政府应拥有阻止部署高风险AI模型的权力。

　　AI的进化具有高度不确定性，基于经验和现有数据的预测很难成立。展望数十年后，提出人类尚未直面的问题、构建讨论框架的哲学思考的重要性正在增加。

　　即使未来诞生的超级智能是万能的，也未必能赋予人们存在的意义。人类如何在文明的下一个阶段生存下去？我们不应该停止思考。

　　日本经济新闻（中文版：日经中文网）白石武志、细川幸太郎、川上尚志、大越优树、小河爱实、越川智瑛、奥平和行、下野谷涼子、中藤玲、渡部泰成、川原聪史、宫泽翔、大富翔平、佐藤花野、天野由衣、茂木麻美、荒川惠美子、远藤彰