技术与管理结合：开创人工智能安全治理新模式

　　在当今的数字时代，生成式人工智能技术加快速度进行发展，并广泛渗透到内容生产的所有的领域。这种技术的崛起不仅带来效率革命，还引发了一系列安全风险隐患，尤其是虚假信息的传播。因此，国家互联网信息办公室与多部门近日联手发布了《人工智能生成合成内容标识办法》（下称《标识办法》）及其配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（下称《标识标准》）。这标志着我国在人工智能安全治理方面进入了“技术与管理并重”的全新阶段。

　　本次两者的协同发布，成功破解了以往管理规范和技术标准之间衔接不畅的困境，形成了“制度牵引技术落地，技术固化制度要求”的治理闭环。作为我国首个将管理办法与强制性标准结合的创新举措，其亮点体现在三个维度：管理方面明确了生成、传播和分发内容的主体责任；监管方面建立了审核、监测与追责的闭环机制；技术方面规范了显隐标识体系并留有创新空间。这样的一体化治理架构，不仅明确了责任边界，也凭借监管措施筑牢了安全防护线，并为AI安全治理提供了明确的实施路径。

　　《标识办法》和《标识标准》的同步推出标志着我们国家的人工智能安全治理从“分散管理”向“系统协同”的转型，为新的治理思维注入了活力。这两者通过管理规范与技术标准的深层次地融合，为内容标识的实施提供了双重保障。

　　在生成式人工智能塑造内容生态的过程中，《标识办法》与《标识标准》紧密结合，为内容标识管理描绘出清晰的蓝图。《标识办法》从宏观管理角度明确了多个主体在内容标识中的责任，包括生成合成服务提供者和内容传播服务提供者等。例如，规定生成合成服务提供者需准确识别所生成内容并附加标识，确保信息传递的有效性。而《标识标准》则从技术层面详细规定了显式标识的具体实际的要求，对于文本内容需明确包含“人工智能”或“AI”等元素，音频和视频内容亦有独特的标识方式，确保用户能迅速识别，同时不妨碍其使用体验。此外，隐式标识方面《标识标准》构建了文件元数据的隐式标识结构，确保了内容的追溯性与安全性。

　　管理协同在内容标识的管理中扮演着关键角色，《标识办法》和《标识标准》在多个层面实现了紧密的协同。一方面，这两者在责任主体上达到统一，明确了各个主体在标识过程中的义务，避免了模糊责任导致的监管漏洞；另一方面，在内容生成、传播到分发的全流程中，《标识办法》构建了紧密的监督管理体系，而《标识标准》通过元数据隐式标识技术确保了内容流转过程中的追溯能力，形成一体化治理链。同时，《标识标准》还与现有的其他法规紧密衔接，形成了一个统筹的制度闭环。

　　《标识标准》激励行业自律和技术创新，为行业持续发展注入动力。通过强制性要求建立起底线约束，同时又通过灵活的管理理念激发企业主动性，允许服务提供者依据业务场景探索显式标识形式，也鼓励新隐式标识技术的探索，这种“灵活约束与创新激励”的组合不仅保证了治理的必要性，更为技术的演进预留了空间。

　　强制性国家标准作为国家安全的技术法规，其有效性必然的联系到信息安全。《标识标准》作为中国特色的强制性国家标准，在法律上的约束力上大幅度的提高，为AI安全治理注入了刚性保障，反映了国家对AI安全风险隐患沉重的零容忍态度。

　　法律效力是《标识标准》的一个显著特征，强制性的属性要求相关服务提供者务必遵循标识要求。此外，强制规定标识技术的最低标准，统一行业的技术门槛，防止劣质服务驱逐优质，保障市场的公平竞争。

　　《标识标准》所建立的监督管理体系为AI安全构筑了完善的防线，通过各环节的协同实现全链条的闭环管理。在事前审核时，互联网应用程序分发平台需核验标识相关材料，以阻止未标识内容的传播，从源头上控制风险；在事中监测中，监督管理的机构借助隐式标识元数据，能够追踪信息传播路径，快速定位违规主体，确保监管的时效性；在事后追责环节内，恶意篡改标识或伪造内容的行为将被依照法律来追究，这种强化监督的手段形成了严密的监管闭环。

　　《中华人民共和国标准化法》明确规定，不符合强制性标准的产品或服务不得生产、销售或提供。企业一旦因不达标而被追究，将面临法律与经济的双重责任。这样的法律和标准的组合，为内容标识治理奠定了强有力的基础。

　　《标识标准》在显式标识与隐式标识两个方面构建了多层次、立体化的内容标识技术体系，既保障了用户的知情权，又为监管的追溯提供支持。

　　作为内容标识体系的最前线，显式标识通过直观的信息展示，保障用户的知情权和内容的可信度，显式标识必须包含“人工智能”、“生成”和“合成”等核心元素，确保用户能一目了然地识别内容属性，以降低误解与信息混淆的发生。显式标识形式包括文本角标、音频节奏标识等，兼顾了使用者真实的体验，确保最小程度的干扰。

　　隐式标识的规范集中在元数据的管理与安全保障上，为内容的追溯与安全奠定基础。它需包含多个关键要素确保信息在跨平台间的高效流传。尤其是《标识标准》中预留的安全字段，旨在保护生成和传播服务提供者的内容与标识的完整性，从而抵御潜在的安全威胁。

　　《标识标准》不仅限于技术规范，其引导性特点将促使标识技术从合规走向创新，以提升行业的整体技术水平。标准列出的示例将激励企业思考更友好的标识形式，营造出从单纯遵循到提升用户信任的竞争力。

　　综上所述，《标识办法》和《标识标准》的推出标志着我国在人工智能安全治理领域的重要进展。通过“技术与管理结合”的新治理范式，明确了各主体责任、强化监管举措并制定了标识要求，全面构建起细致的内容标识治理体系，有效应对生成式人工智能带来的安全挑战，保障互联网空间内容生态的健康持续发展。返回搜狐，查看更加多