家长可以设置使用时间等的OpenAI‘青少年用ChatGPT’服务界面。 [照片=OpenAI] 青少年对人工智能（AI）聊天机器人的使用正在迅速增加。然而，针对与AI进行长时间对话或情感依赖的法律和制度尚未建立。与美国和英国等主要国家在青少年AI聊天机器人的安全设计和使用时间限制方面的措施形成对比。在韩国，AI聊天机器人不仅限于简单的信息搜索，已经扩展到与角色建立关系的服务，因此需要对青少年保护制度进行整顿。
根据8日的移动指数统计，Scatter Lab的‘Zeta’月活跃用户数（MAU）从2024年4月的58,069人增加到今年8月的1,586,178人，增长了约27倍。Zeta是一个基于AI的互动娱乐服务，用户可以直接设置角色和世界观，并与AI实时对话，创造故事。
鲁顿的‘Crack’用户也在持续增加。Crack的MAU从去年4月开始统计时的218,050人增加到今年8月的538,841人，增长了约2.5倍。特别是基于角色的聊天机器人与传统的生成型AI不同，后者仅回答固定问题，前者将持续对话和关系建立作为服务的核心，因此青少年长时间使用和情感依赖的可能性被视为新的风险因素。
国会立法调查处也意识到这种风险，发布了《AI聊天机器人的上瘾设计所造成的结构性风险暴露于儿童的报告》。报告指出，AI聊天机器人的特性如无限的共鸣反应、个性化的回应和随时可接入性可能导致上瘾。特别是自我控制力和批判性思维尚未充分发展的儿童和青少年，可能更容易受到情感依赖、社会孤立和危险行为的影响。
韩国青少年对AI聊天机器人的使用程度也相当高。根据国会立法调查处引用的调查，3300名14岁以上的儿童和青少年中，有94.4%表示有使用AI聊天机器人的经验。其中75.3%的人表示曾将聊天机器人的回答付诸实际行动或认真考虑过。
问题在于，现行国内法律体系无法直接针对这些风险。青少年保护法主要集中在青少年有害媒体的流通和接触限制，而个人信息保护法则要求对14岁以下儿童的个人信息处理需获得法定代理人的同意。针对AI聊天机器人所产生的长时间使用、情感依赖和重复关系建立等问题，缺乏直接限制的规定。
相比之下，海外对AI聊天机器人的监管正在逐步加强。美国加利福尼亚州从今年开始实施《AI伴侣聊天机器人监管法（SB 243）》。该法律要求商家告知未成年人与AI对话的事实，并在对话超过一定时间时引导休息等安全措施。还包括应对自杀和自残相关对话的协议以及防止未成年人接触性内容的措施。
英国也在提高对AI聊天机器人的青少年保护水平。英国政府限制向未成年人提供性内容的AI聊天机器人使用，同时推动在青少年使用聊天机器人的过程中引导休息。针对情感依赖、过度使用和有害的心理健康建议等AI聊天机器人的新风险，商家和监管机构的应对措施正在加强。
国内的企业并非袖手旁观。Scatter Lab的Zeta在青少年使用环境中运行‘安全模式’，以防止生成青少年有害媒体水平的内容，而更自由表达的‘无限模式’仅提供给完成成人认证的用户。对于设置为未成年人的角色或可能被视为未成年人的情节，成人用户也适用安全模式的限制。
然而，这些措施仍然是企业自主判断的结果。即使面临相同的风险，不同服务的保护水平可能不同，管理‘过度沉迷’的措施在不同企业之间差异较大。
因此，预计在即将于10月召开的国会国政审查中，AI聊天机器人的青少年保护问题将成为主要议题。随着AI聊天机器人在社交网络和游戏之后，成为青少年日常数字服务的一部分，现有的青少年保护法体系是否足够，是否需要反映AI聊天机器人特性的单独保护措施，政府和国会将对此进行质询。
※ 本报道经人工智能（AI）系统翻译与编辑。
评论 (0)