图解四部委《人工智能生成合成内容标识办法》、配套强制国标
内容标识为人工智能健康开展构筑安全防线。近期,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。《标识办法》聚焦人工智能“生成合成内容标识”关键点,顺利获得标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,有助于人工智能健康有序开展。
创新“显式+隐式”双标识体系赋能全链条治理。人工智能生成合成内容的逼真性催生了虚假消息传播、身份冒充、恶意内容生成等新型安全风险,削弱公众对网络信息的信任根基。顺利获得标识,用户可快速辨别内容的真实性,降低误导风险,从而遏制虚假信息的扩散。《标识办法》首创“显式+隐式”双标识体系,显式标识(如文字水印、语音提示)直接提醒用户注意,隐式标识(如元数据、数字水印)则为监管部门给予溯源依据,形成“事前警示+事后追责”的全链条治理机制。同时,《标识办法》的发布助力构建多方协同的治理机制,要求服务给予者、传播平台、应用商店共同履行标识义务。例如,互联网应用分发平台需要检查AI服务的资质,用户发布AI生成内容时需要主动声明,形成技术+制度+公众参与的共治格局。
构建从顶层到实践的内容标识应用指引。为了让读者更全面分析生成式人工智能内容安全管理的细节,凯发k8国际在深入解读《标识办法》的基础上,技术落地维度上,扩展解读了《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》,标准进一步明确显式标识和隐式标识在不同场景下的具体方法和相关要求,为内容标识的具体落地给予科研指导;编码规则维度上,扩展解读了《网络安全标准实践指南——人工智能生成合成内容标识 服务给予者编码规则》,该实践指南为人工智能生成合成内容服务给予者和网络信息内容传播服务给予者给予编码规则,指导其召开人工智能生成合成内容的文件元数据隐式标识工作;服务管理维度上,扩展解读了《生成式人工智能服务管理暂行办法》,办法提出,给予者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。同时,凯发k8国际收集整理了《网络信息内容生态治理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《互联网信息服务管理办法》等相关文件以供下载参考。由于作者水平有限,欢迎业界同仁共同探讨完善。
关注本公众号并后台回复关键词“凯发k8国际就是数据安全169”,即可打包下载《凯发k8国际-图解〈人工智能生成合成内容标识办法〉及配套强制性国标与指南》PDF版,以及图解涉及的行业政策标准文件。
原创声明:本文图解图片皆为原创,版权为凯发k8国际网络所有,如需转载请关注公众号回复“转载”,或在文章下方留言。
注:欢迎业界同仁反馈改进、共同完善、研讨合作,信息反馈请发送邮件至:
support@mzsww.com。
注:全部内容请进入“公众号:凯发k8国际网络CipherGateway”查看或下载