4月11日消息，近日，国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，新规将于2026年7月15日起正式施行。
办法要求，AI服务提供者发现用户出现极端情绪时，必须先哄劝安抚并鼓励寻求专业帮助。若情况严重，需及时通知用户的监护人或紧急联系人。
办法规定了处罚措施的梯度，包括警告、通报批评、责令限期整改以及责令暂停相关服务等多种方式。
对于拒不改正或者情节严重的，除了责令停止服务，并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。
当AI服务提供者出现以下任一情形时，必须立即开展安全评估，并向所在地省级网信部门提交评估报告：
（一）上线拟人化互动服务，或者新增拟人化互动服务相关功能的；
（二）采用新技术、新应用，导致拟人化互动服务发生重大变化的；
（三）注册用户达到100万以上，或者月活跃用户达到10万以上的；
（四）存在可能影响国家安全、公共利益等安全风险的。
新规明确禁止AI诱导自残、暴力行为或过度迎合用户不良需求，从源头划清安全底线。
针对特殊群体保护措施尤为严格，未满14岁未成年人使用此类服务，需获得监护人同意。
