我国《人工智能拟人化互动服务管理暂行办法》今起施行，明确服务提供者安全主体责任

IT之家 7 月 15 日消息，国家互联网信息办公室、国家发展改革委、工业和信息化部、公安部、国家市场监督管理总局于 4 月 10 日联合公布《人工智能拟人化互动服务管理暂行办法》（IT之家以下简称《办法》），该办法自今起施行。IT之家注：拟人化互动服务是指企业利用人工智能技术，向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务，包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。其中智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务，不适用该《办法》。近年来，拟人化互动服务在文化传播、适幼照护、适老陪伴等领域的创新应用不断涌现，但同时，危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等问题也日益显现。《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管。在促进措施方面，国家支持算法、框架、芯片等技术的自主创新，推进技术研发和相关标准建设，鼓励服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用，同时加强安全知识和法律法规的宣传普及。《办法》明确规定了提供拟人化互动服务不得从事的六类活动，包括：生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容；生成鼓励、美化、暗示自残自杀等损害用户身体健康，或语言暴力等损害用户人格尊严与心理健康的内容；生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等影响未成年人身心健康的内容；过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。在安全管理方面，《办法》要求拟人化互动服务提供者明确安全主体责任，加强服务全生命周期安全管理，保障数据安全，保护用户权益。明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得其父母或者其他监护人的同意。《办法》还规定了安全评估和算法备案相关制度。安全评估主要针对上线拟人化互动服务或增设相关功能、使用新技术新应用导致服务发生重大变化、注册用户 100 万以上或月活跃用户 10 万以上、存在可能影响国家安全或公共利益等安全风险等情形。评估内容包括服务安全保障措施建设情况、训练数据处理情况、用户极端情境的识别与应急处置情况、用户规模与年龄结构等。此外，服务提供者还须按照《互联网信息服务算法推荐管理规定》履行算法备案手续。《办法》同时明确推动人工智能沙箱安全服务平台建设，鼓励服务提供者接入沙箱平台进行技术创新和安全测试。国家网信办有关负责人表示，拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与，共同维护良好网络生态，促进人工智能向上向善。相关阅读：《国家网信办征求意见：禁止诱导未成年人沉迷数字虚拟人服务》