国家网信办、国家发展改革委、工业和信息化部等五部门近日联合公布《人工智能拟人化互动服务管理暂行办法》。办法提出，提供拟人化互动服务，不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。办法将于2026年7月15日起施行。
实行包容审慎和分类分级监管
据了解，近年来，拟人化互动服务快速发展，在文化传播、适幼照护、适老陪伴等领域的创新应用不断涌现。同时，危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等问题日益显现。办法的出台，旨在促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
办法提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，促进拟人化互动服务向上向善。同时，明确了适用范围，即利用人工智能技术，向我国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。
要求建立未成年人模式
办法提出拟人化互动服务促进措施，明确支持技术研发创新，鼓励有序拓展文化传播、适老陪伴等相关领域应用；规定提供拟人化互动服务的基本要求，明确不得从事生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容的活动，规定拟人化互动服务提供者的安全管理义务；完善网络用户权益保护制度，规定拟人化互动服务提供者的未成年人、老年人权益保护和个人信息保护等义务。
针对未成年保护，办法明确，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。要求建立未成年人模式，支持监护人管控使用行为、限制充值消费等。
要求服务提供者设定强制干预义务
根据办法，提供拟人化互动服务，不得从事：生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益等活动。
针对人工智能拟人化互动“情感绑定、持续交互、易产生依赖”的特殊属性，办法从制度层面，填补了相关领域的治理空白。在用户数据保护上，办法明确除法定情形或用户同意外，服务提供者不得向第三方提供用户交互数据，严格限制敏感个人信息用于模型训练，全面保障用户数据的控制权与隐私安全。
同时，要求服务提供者设定强制干预义务，包括用户如果出现极端情绪时需及时干预，另外需提醒用户控制使用时长，防范沉迷与情感依赖。
·专家解读·
结合未成年人年龄段设置保护措施和内容
北京航空航天大学法学院副教授赵精武表示，AI拟人化互动服务的发展方向是文化传播和情感陪伴，在技术创新与伦理规范之间的需求需要进一步平衡，首先应该明确人类的主体地位和人格尊严保护的底线要求。任何拟人化服务的方式创新都不应当以减损现实情感交互为前提。拟人化互动服务的功能是对现有的情感交互的有益补充，而不是单纯的替代。
禁止向未成年人提供虚拟亲属、虚拟伴侣的服务，主要考虑的是未成年人正处于三观形成和培育阶段，虚拟亲密关系服务容易误导未成年人对现实生活当中的亲属和伴侣关系产生一些错误的认识。还需要结合未成年人的年龄段，设置针对不同特定年龄段层次化的未成年人的保护措施和内容，一旦未成年人在使用过程中出现极端性情绪，应当提供相应的援助这些必要的措施，并及时联络用户的监护人或者紧急联系人。
文/综合新华社、央视
供图/视觉中国
