图解四部委《人工智能生成合成内容标识办法》、配套强制国标

最新推荐文章于 2025-05-30 11:52:24 发布

炼石网络

最新推荐文章于 2025-05-30 11:52:24 发布

阅读量406

点赞数 4

分类专栏：数据安全文章标签：人工智能安全

本文链接：https://blog.csdn.net/Chaincomp/article/details/146548778

版权

数据安全专栏收录该内容

25 篇文章

订阅专栏

内容标识为人工智能健康发展构筑安全防线。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行。《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。

创新“显式+隐式”双标识体系赋能全链条治理。人工智能生成合成内容的逼真性催生了虚假消息传播、身份冒充、恶意内容生成等新型安全风险，削弱公众对网络信息的信任根基。通过标识，用户可快速辨别内容的真实性，降低误导风险，从而遏制虚假信息的扩散。《标识办法》首创“显式+隐式”双标识体系，显式标识（如文字水印、语音提示）直接提醒用户注意，隐式标识（如元数据、数字水印）则为监管部门提供溯源依据，形成“事前警示+事后追责”的全链条治理机制。同时，《标识办法》的发布助力构建多方协同的治理机制，要求服务提供者、传播平台、应用商店共同履行标识义务。例如，互联网应用分发平台需要检查AI服务的资质，用户发布AI生成内容时需要主动声明，形成技术+制度+公众参与的共治格局。

构建从顶层到实践的内容标识应用指引。为了让读者更全面了解生成式人工智能内容安全管理的细节，炼石在深入解读《标识办法》的基础上，技术落地维度上，扩展解读了《GB 45438-2025 网络安全技术人工智能生成合成内容标识方法》，标准进一步明确显式标识和隐式标识在不同场景下的具体方法和相关要求，为内容标识的具体落地提供科学指导；编码规则维度上，扩展解读了《网络安全标准实践指南——人工智能生成合成内容标识服务提供者编码规则》，该实践指南为人工智能生成合成内容服务提供者和网络信息内容传播服务提供者提供编码规则，指导其开展人工智能生成合成内容的文件元数据隐式标识工作；服务管理维度上，扩展解读了《生成式人工智能服务管理暂行办法》，办法提出，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。同时，炼石收集整理了《网络信息内容生态治理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《互联网信息服务管理办法》等相关文件以供下载参考。由于作者水平有限，欢迎业界同仁共同探讨完善。