正策动态

NEWS

正策新闻

正策关注｜有关新规《人工智能生成合成内容标识办法》有效实施的技术困境、法律后果的思考

日期：2025-09-04 作者：黄金勇、缪娇娇

引言

2025年9月1日，《人工智能生成合成内容标识办法》（简称“《标识办法》”）、国家标准GB 45438-2025《网络安全技术人工智能生成合成内容标识方法》正式实施，就前述文件的实施，本文尝试做相应的探索性思考。

同时为方便理解本文内容，还需配套熟悉《互联网信息服务深度合成管理规定》、《互联网信息服务算法推荐管理规定》、《生成式人工智能服务管理暂行办法》等文件。

标识办法内容概要

2025年9月1日起施行的《标识办法》内容相对简略，对该办法的核心内容以表格形式进行介绍：

1.核心概念：显式标识与隐式标识

2.相关主体义务

除上表列示主体，《标识办法》还就网络信息服务（生成合成服务）提供者的义务做了重点规定：

主体类型

义务

对应条款

网络信息服务（生成合成服务）提供者

属于《互联网信息服务深度合成管理规定》第十七条第一款

情形的，应当按照下列要求对生成合成内容添加显式标识：...

第四条

服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容

编号等制作要素信息。

第五条

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

3.法律后果规定

《标识办法》中关于法律后果的规定，在办法第十三条：违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

《标识办法》实施的技术困境

笔者在通读《标识办法》、同时翻阅配套法律文件后，就技术层面，对《标识办法》的实施存有忧虑：

1.隐式标识的强制性标记义务、显式标识的部分强制性标记义务、隐式标识（水印）的鼓励

根据《标识办法》的文件精神，不难理解，未来就AIGC领域的生成合成内容，内容生产者的主体存在强制性的隐式标识标记义务，传播服务者仅是进行二次的标记。按照目前《标识办法》、国家标准GB 45438-2025的要求，隐式标识需在文件元数据中添加隐式标识扩展字段，包含AIGC、ContentProducer、ProducelD、ReservedCodel、ContentPropagator、PropagateID、ReservedCode2等7个核心字段。

此处有必要强调一下文件元数据。在AIGC相应的参与主体中，内容生产者、AIGC技术服务提供者、传播服务提供者、用户的角色构成中，有能力、有权限直接就文件元数据进行编辑、标注的，大概率是非自然人，自然人标记义务人往往需要在AIGC技术服务提供者提供的标记功能模块中方可进行编辑、标记。因此，针对隐式标识的强制性标记义务在当前技术环境下，较难实现全部参与主体的执行。

即使标记功能、权限的普及化，就国家标准GB 45438-2025的要求，隐式标识中有关ContentProducer、ContentPropagator等内容的输入，无法保证诚信度问题。举个直观的例子，虽然国家标准GB 45438-2025规定：“c)~i)中各要素的值应主要由 GB 18030-2022 中码位为 0x21、0x23~0x5B、0x5D~0x7E 的字符以及\"构成。”，但如果标记义务人随意进行标记，且输入符合国家标准但无法具体识别义务人的内容，那么该标识将丧失对义务人的准确定位，也就无从谈论责任的承担。

显式标识的部分强制性标记义务，相对而言技术解决相对简单，隐式标识（水印）亦如是。

2.标识的破坏：删除、篡改、伪造、隐匿

生成合成内容主要包括：文字、图片、音频、视频。以较为容易理解的图片为例，该图片包含有隐式标识与显式标识，笔者做相应的操作，并进行解析：

假设以下参数视为已进行标识的原始文件元数据字段状态：

名称：A.jpg

位置：C：\Users\XXX\Desktc

项目类型：JPG图片文件

创建日期：2025/9/2 21:12

修改日期：2025/9/2 21:11

属性：A

对上述原始文件进行“截图”、“另存”操作后：

名称：ae96f79e-f790-4cfc-a3c7-fd712fb

位置：C：\Users\XXX\Desktc

项目类型：PNG图片文件

创建日期：2025/9/2 21:19

修改日期：2025/9/2 21:19

属性：A

通过对以上的模拟操作，将相应的参数变动视为文件元数据字段的破坏，在当前技术环境下，可以认为隐式标识的稳定性非常脆弱。

如果相同的模拟应用在显式标识上，那么对显式标识的破坏，仅需要傻瓜式的“截图”操作，或者就音频、视频等进行掐头去尾的剪切即可，当然，标识的方式也影响了“破坏”的难易，此处不做赘述。

3.生成合成内容的流转

在实际应用中，生成合同内容在不同媒介、载体中进行流转，无法确保流转环境的封闭性、技术标准的统一性、流转的连续性等要求，基于前文所述的标识稳定性的脆弱，在当前技术环境下，依然无法破解这个难题。《标识办法》的有效施行，还将触及当前技术系统基础设施的改造。

《标识办法》中针对传播服务的服务提供者的义务性规定，也将致使其对算法、算力进行一轮较大的改造投入。

法律后果约束

如前文，《标识办法》仅第十三条对违反办法做出了相应的法律后果规定，但，相当简化。

笔者认为，在《标识办法》规定下，相关责任主体极易就身份进行隐匿。笔者关注到《互联网信息服务深度合成管理规定》第九条规定：“深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务”，虽要求服务提供者对服务使用者的主体信息进行身份信息确认，但笔者认为在实际操作层面依然存在无法溯源、网上信息与线下操作之间的割裂。

因此，纵观《标识办法》，笔者就该办法的法律后果部分，倾向认为存在明显的定量、定性内容的细化规定缺失，不过该办法已就当前社会公众对AIGC内容识别能力困境制定出了行之有效的保护性措施，从而防止可能引起的社会危害。

参考文献：

《AI也有“署名权”了? 简评《人工智能生成合成内容标识办法》》，https://law.wkinfo.com.cn/professional-articles/detail/NjAwMDAzMzgxNjE

文章内容仅为作者独立观点，不代表本所立场

如需转载请联系作者获取授权