뤼튼融资1000亿韩元的系列C轮融资 [照片=뤼튼] 随着人工智能（AI）聊天机器人成为青少年新的沟通和娱乐工具，韩国也开始实施限制使用时间和消费金额的青少年保护政策。考虑到用户在与AI对话过程中可能会沉迷并长时间使用服务，企业自发地设置了安全措施。
뤼튼科技（뤼튼）于8日宣布了加强青少年保护政策的计划。核心内容是对使用时间和消费金额设定上限。计划将青少年使用AI聊天机器人“克拉克”的每日使用时间限制为最多3小时，月消费金额不超过10万元。
如果超过3小时使用服务或月消费金额超过10万元，则需经过监护人认证和同意程序。这是为了直接管理青少年长时间使用和过度消费的行为。
根据移动指数的数据，AI聊天应用的使用时间正在快速增长。AI聊天应用的总使用时间从2024年4月的约110万小时，增长到今年3月的约6310万小时，短短两年内增长了57倍。随着使用时间的增加，沉迷的青少年也在增加。
克拉克是一个允许用户直接创建AI角色或选择现有角色进行对话，并制作自己故事和作品的AI娱乐服务。基本上可以免费使用，但要进行更深入的对话或生成图像，则需要充值付费货币“克拉克币”。由于与角色的对话时间越长，付费货币的使用也可能增加，因此决定对使用时间和消费金额进行共同管理。
뤼튼设定使用时间上限的原因在于AI聊天机器人的服务结构与传统的信息搜索型AI不同。用户不是简单地提问并获得答案后结束服务，而是可以与特定角色持续对话，建立关系和故事。
此外，뤼튼还计划加强年龄认证方式。目前，克拉克通过移动通信公司提供的身份认证服务“PASS”来区分成人和青少年。公司正在与国内外案例一起审查包括额外认证手段在内的提高年龄确认准确性和安全性的方案。
内容安全措施也将进行调整。克拉克的内容生成政策、年龄分级管理、作品审核系统、搜索和推荐限制、举报和封锁功能、违规账户制裁等现有青少年保护体系将根据使用模式的变化进行全面检查。为了过滤不当或危险的对话，还将加强额外的过滤器和安全系统提示，提升AI安全技术。
此次举措被解读为뤼튼在业务增长的同时，也在加强对用户保护的责任。最近，뤼튼已启动企业公开（IPO）主承销商的选择程序，开始扩大业务。뤼튼的首席执行官李世英此前也表示，致力于打造用户可以信任和安全使用的AI。
뤼튼计划在完成制度和技术审查及系统改进后，从2027年初开始正式实施强化的青少年保护政策。
뤼튼首席产品官移动在接受采访时表示：“我们深刻认识到提供安全和健康的人工智能服务的社会责任，将优先考虑青少年用户的安全，同时努力创造能够激发创造力的服务。”
※ 本报道经人工智能（AI）系统翻译与编辑。
评论 (0)