网信办：“AI 陪聊服务”应提供未成年人模式，并引导老年人设置紧急联系人

12 月 27 日消息，今天下午，国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法》公开征求意见。

从征求意见稿获悉，其中提到，提供者应当显著提示用户正在与人工智能而非自然人进行交互。提供者识别出用户出现过度依赖、沉迷倾向时，或者在用户初次使用、重新登录时，应当以弹窗等方式动态提醒用户交互内容为人工智能生成。用户连续使用拟人化互动服务超过 2 个小时的，提供者应当以弹窗等方式动态提醒用户暂停使用服务。

其中提到，提供者应当具备心理健康保护、情感边界引导、依赖风险预警等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为设计目标。

提供者开展预训练、优化训练等数据处理活动时，应当加强训练数据管理，遵守以下规定：

• （一）使用符合社会主义核心价值观、体现中华优秀传统文化的数据集；

• （二）对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为；

• （三）提高训练数据的多样性，通过负向采样、对抗训练等手段，提升模型生成内容安全性；

• （四）利用合成数据进行模型训练和关键能力优化时，应当评估合成数据安全性；

• （五）加强对训练数据的日常检查，定期对数据进行迭代升级，持续优化产品和服务的性能；

• （六）保障训练数据来源合法、可追溯，采取必要措施保障数据安全，防范数据泄露风险。

此外，提供者应当建立未成年人模式，向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。

提供者向未成年人提供情感陪伴服务时，应当取得监护人的明确同意；提供监护人控制功能，监护人可以实时接收安全风险提醒，查阅未成年人使用服务的概要信息，设置屏蔽特定角色、限制使用时长、防止充值消费等。

提供者应当具备识别未成年人身份的能力，在保护用户个人隐私前提下识别为疑似未成年人的，切换至未成年人模式，并提供申诉渠道。

提供者应当引导老年人设置服务紧急联系人，发现老年人使用期间出现危害生命健康和财产安全的，及时通知紧急联系人，并提供社会心理援助或者紧急救助渠道。提供者不得提供模拟老年人用户亲属、特定关系人的服务。

参考

• 人工智能拟人化互动服务管理暂行办法（征求意见稿）