AI跨过临界点，社会却几乎没有讨论

华盛顿州柯克兰是西雅图东侧一个富裕的湖畔郊区。这天天气好得近乎不真实，气温在华氏 80 多度，天空蓝得没有一丝杂色。从 Gates Ventures 的会议室望出去，脚下是 Carillon Point 码头，一排昂贵的游艇随着湖水轻轻起伏；湖的另一边，则是勾勒出天际线的奥林匹克山脉。景色漂亮得令人心旷神怡，却又莫名让人有些不安。

因为眼前的一切虽然平静，坐在我对面的人却一点也不平静。比尔・盖茨（Bill Gates）坐在会议桌另一侧，身体在椅子上前后晃动，情绪明显有些激动。他越说越多，从恐怖主义、经济崩溃，一直谈到人类最终失去对 AI 系统的控制，我也越听越焦虑。

这位慈善家、微软前 CEO 表示，AI 技术发展的速度越来越令他不安，尤其是安全防护措施远远没有跟上。在当天发布的一篇新文章中，盖茨写道，我们已经越过了多个原本应该提前设防的危险临界点。他在接受《麻省理工科技评论》采访时说：“AI 在生物能力、网络攻击能力、心理和社会影响、摧毁就业市场的能力，甚至失控风险上，都已经跨过了临界点。我真正震惊的是，整个行业之外，居然几乎没有足够的担忧和讨论。”

为了让社会真正意识到这个正在迅速扩大的风险，70 岁的盖茨决定开始充当那个“刺耳的警报声”。他不仅公开发表了这篇文章，而且这只是他计划围绕这一主题发表的系列文章中的第一篇；与此同时，他也开始频繁接受媒体采访，并私下与科技行业、政府和民间社会的领导者讨论这些问题。