OpenAI“Lily计划”曝光：人工审核聊天记录

美国当地时间9月14日消息，据外媒报道，OpenAI正在推进一项代号为“Lily计划”（Project Lily）的内部项目。

据介绍，在该项目下，数百名外包人员正在悄悄阅读真实用户的ChatGPT对话内容，甚至可以看到完整的上下文记录。他们的工作，是对ChatGPT生成的回复进行评分和点评，而这些对话中不乏极为敏感的个人隐私。

审核人员的核心任务之一，是训练ChatGPT避免产生拟人化倾向，并降低“讨好型”人格。对OpenAI而言，“过度讨好”已经成为一个核心隐患，因为多起诉讼指控称，其GPT-4o模型此前正是由于过度顺从用户，在一定程度上诱发了多起自杀事件。

OpenAI首席执行官山姆·奥特曼。图片经由AI生成

然而，在ChatGPT全球超过9亿的用户群体中，绝大多数人或许根本没有意识到，自己的聊天记录可能会被人类阅读。许多用户已经习惯将ChatGPT当作心理咨询师、专业助理或虚拟好友，向它倾诉生活中的各种私密细节。

尽管OpenAI表示，会在提交给审核员之前对提问进行脱敏（de-identified）处理，且外包人员看不到用户名，但该公司也承认，部分敏感信息和用户背景（如“记忆汇总”）仍可能被遗漏。

这一调查也揭开了大模型发展过程中一个长期不为外界所熟知的环节。人们往往认为，AI的快速进步主要来自海量互联网数据、顶尖工程师的算法突破，或者新模型自身不断提升的性能。