OpenAI推青少年版ChatGPT 设防自残限制等保护

OpenAI推出的ChatGPT新版本名为“ChatGPT for Teens”，修改后的参数会自动应用于任何注册年龄在13岁至17岁之间的用户，或公司通过用户使用模式或账户信息检测到的未成年用户。（路透社档案照片）

OpenAI推出专为青少年设计的ChatGPT新版本，以加强安全保障和监控。

法新社报道，OpenAI星期二（8月18日）推出的ChatGPT新版本名为“ChatGPT for Teens”，修改后的参数会自动应用于任何注册年龄在13岁至17岁之间的用户，或公司通过用户使用模式或账户信息检测到的未成年用户。

新版本中使用的大部分安全保障措施，此前已应用于ChatGPT的未成年人账户，例如限制用户访问与自残、暴力、饮食失调和露骨性内容相关的信息。

该程序也提供更频繁的休息提醒、静音“时段”和学习模式。

OpenAI说，学习模式会向用户提出引导问题，而不是直接给出答案，“以帮助青少年理解学习内容”。

延伸阅读

ChatGPT青少年版的其他限制包括：禁止聊天机器人暗示对用户有个人感情或拥有独立意识，并禁用语音模式等部分功能。

家长可以选择将账号与孩子的账号相连。如果系统检测到青少年讨论自残或自杀等高风险情况，家长可以收到提醒。

家长收到的安全提醒会由人工审核员审核，同时会删除聊天记录中的具体细节，以保护用户隐私。

新的青少年模式是在法律和监管压力日益增加的情况下推出的。

OpenAI目前面临多起过失致死诉讼，包括16岁少年雷恩（Adam Raine）的父母提起的诉讼。据称，雷恩使用ChatGPT建议的方法自杀。

美国联邦贸易委员会也已对作为数码伴侣的AI聊天机器人展开调查，重点关注对儿童和青少年的潜在风险。

与社交媒体公司一样，AI巨头正面临越来越大的监管压力。美国国会已提出多项监管聊天机器人的议案，而加州则要求向用户提供陪伴或倾诉功能的AI助手采取安全防护措施。

其他AI公司也因未成年人使用相关产品所引发的问题受到抨击，如竞争对手Anthropic已选择将模型的使用范围限制为成年人。