从创意领域的自动化文本生成、多模态内容创作，到医药领域的影像辅助诊断与药品开发预测，再到AI赋能的个性化教育、规模化农业生产等，生成式人工智能正全面融入经济社会的肌理骨骼，推动数字社会生产力跃升。然而，技术红利往往同风险挑战如影随形。生成式人工智能系统性动摇了社会信任的“视觉真实”基础：当AI能够以假乱真地炮制具有严密逻辑的网络谣言，“数字复活”已故名人进行商业推广，利用合成影像实施金融诈骗时，图像和视频不再可信，“眼见为实”的既定认知正遭受前所未有的冲击，更从根本上侵蚀社会交往的信任基石。

　　面对人工智能带来的机遇与挑战，习近平总书记强调，“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。在这一治理思路引导下，从2023年1月《互联网信息服务深度合成管理规定》的实施，到同年7月《生成式人工智能服务管理暂行办法》的发布，再到2025年9月1日《人工智能生成合成内容标识办法》（以下简称《标识办法》）及配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（以下简称《标识标准》）的正式生效，两年时间内，我国迅速构建起覆盖合成技术、生成服务与内容标识，容纳原则、规则与标准的多层次治理体系。作为生成式人工智能治理的最新一环，《标识办法》与《标识标准》为AI生成内容设置全覆盖的“身份认证”标识，以技术性规范重新锚定图像真实，一方面为公众提供辨别依据，重塑数字信任；另一方面也为安全监管与合规应用划定底线边界。真正以标识之“规”，筑起生成式人工智能可信、可控、可持续的发展之“道”。

　　一、守护公众信任：从“眼见为实”到“标识为准”

　　生成式人工智能技术重塑信息生产与传播机制同时，也以高度仿真性模糊真实与虚假的边界，其最大的挑战在于，传统以视觉感官经验为基础的信息真伪辨别机制失效，并由此引发真实性信任危机。《标识办法》及其配套《标识标准》的出台，不仅是防范技术滥用的重要制度回应，更是构建数字时代新型可信传播机制的关键探索。其深远意义在于，在“眼见为实”的主观信任机制失效当下，以生成标识的客观技术标准取代主观判断，并塑造人机协作内容生产的信任范式。

　　《标识办法》及其配套《标识标准》设定若干关键机制，一是强制性的生成内容标识义务要求；二是详细规范标识应包含的内容要素、呈现方式、机器可识别格式等技术细节。通过构建标准化、可验证的技术披露机制，实质确立人机协同内容生产的伦理底线，有助于从源头上为公众提供辨识真伪的依据，并帮助逐步建立“标识为准”的新信任认知。技术透明有助于保护消费者知情权和选择权，也能督促技术提供方和内容生产者履行社会责任，促进人工智能技术在信任框架内健康发展。

　　从更深层次看，内容标识也为一般网络用户构筑重要的“认知底线”，防范用户对AI技术的过度依赖。诸多研究已初步揭示，长期依赖人工智能生成的内容可能使人类面临创造表达能力退化和情感钝化风险。通过强制性的内容标识特别是显性标识，用户得以清晰区分人类原创内容与人工智能生成内容，帮助其在信息消费中做到从被动接受到理性辨识判断，避免被误导欺骗，抵御能力退化风险。

　　二、引领产业发展：从“野蛮生长”到“负责任创新”

　　生成式人工智能技术浪潮爆发以来，产业界经历一段“野蛮生长”时期，因技术标准缺失与监管框架滞后，市场上出现的生成服务质量参差不齐、应用边界模糊，深度合成技术滥用问题突出、AI生成虚假信息事件频发，不仅损害了个体用户权益，威胁社会公共秩序，也阻碍了产业的健康发展。对于产业界而言，《标识办法》及《标识标准》适时出台，为产业从无序扩张转向有序发展划定关键的制度边界与合法轨道。

　　《标识办法》围绕生成合成内容生产、分发与传播的全产业链条，为生成合成服务提供者、信息内容传播服务提供者与互联网应用程序分发平台设定相应的标识添加、核验与审核义务。这些义务设置短期看虽会为企业带来一定的合规成本，但从长远看，制度化的义务安排有助于降低技术滥用引发的负外部效应，一方面提升用户对生成内容消费的接受度与信任度，另一方面维持并扩大市场的可持续规模，为产业良性发展奠定基础。从全球视角看，依托标识技术实现人工智能生成内容治理已成为国际监管与行业界共识，在此情况下，我国率先推出人工智能生成合成内容标识的强制性国家标准，不仅推动企业切实履行标识义务、降低跨境合规风险，更显著增强了中国企业在全球人工智能市场竞争中的软实力，为促进国际标准互认与合作提供了“中国方案”。

　　更为重要的是，《标识办法》及配套标准以强制性的规范效力，提示并推动行业迈向“负责任创新”的成熟新阶段。在标识义务约束下，企业须从单一追求技术突破，转向兼顾商业利益与社会责任，将伦理和法律考量深度融入技术开发、产品设计与应用传播的全流程。这意味着产业生态的深层重构——企业的核心竞争力不再仅仅体现在模型规模或生成能力上，而是越来越多地体现在技术的可控性、内容的安全性、应用的可持续性等社会维度。同时，标识标准建设也将促使产业链上下游企业加强协作，共同构建包含内容标识、质量评估、风险监测、用户反馈在内的完整技术体系与治理生态，避免技术孤岛和恶性竞争。

　　三、净化网络生态：协同共治的标识实践

　　从更为系统、宏观的网络信息内容生态治理而言，《标识办法》与《标识标准》的实施，是构建多元协同、健康清朗网络生态的关键举措。基于内容标识的技术与制度实践，有助于建立政府、企业与用户间的良性协同互动机制。

　　传统治理模式下，政府承担绝大多数监管责任，企业被动合规，用户则处于信息接收的末端，治理效率有限且难以适应人工智能生成合成内容海量化、隐匿化的新特征。《标识办法》以内容标识为纽带，为政府、企业、用户三大主体构建了协同互动的制度基础。标识制度通过打通信息黑箱，明确各方角色与义务，为各方参与治理提供共同的信息基础与责任共担机制。政府可根据统一标识更加精准地识别和监管AI生成内容，提升治理效能；企业从被动执行转向主动履责，通过标识技术和管理创新承担主体责任；用户则借助内容标识增强辨别能力，并通过用户反馈与举报机制参与社会监督。在透明、共享的基础上构建起了多元协同的治理新架构。

　　同时，内容标识也为信息质量提升与网络生态自净提供内在动力。在行为引导层面，内容标识作为生态自我识别、自我纠正的“催化剂”，赋予用户更强的内容辨识能力和选择主动权，以透明理性的信息内容选择形成内容生产的市场正向反馈；也为平台建立更加精细化的内容管理体系提供了技术支撑，促使平台基于标识信息和用户反馈，不断优化内容推荐策略，实施差异化治理。而在内容生产层面，内容标识要求促使内容生产者、提供者更注重信息内容的真实性、准确性，其统一规范要求也将促成行业标准与自律规范的形成，引导信息生产与供给向着更为安全、可信、可控方向发展。

　　四、展望未来：人机协同信息生产的信任基础

　　伴随人工智能生成合成内容标识制度的全面落地，我国在生成式人工智能治理领域迈出了系统性、前瞻性的一步。《标识办法》与《标识标准》的实施，不仅是对当前技术滥用问题的响应，更是面向人机协同信息生产新范式所构建的信任基础。

　　展望未来，标识制度需与国际治理体系接轨。生成式人工智能的内容传播跨越国界，标识标准的互认与协同已成为全球人工智能治理的当前焦点。借此国内标识规范统一建设的契机，我国应积极推动标识标准的国际化，促进内容标识国际合作框架的构建。这不仅有助于中国企业“走出去”，也能在国际规则制定中注入中国智慧。

　　标识制度实践亦应成为人机协同社会中公众素养提升的契机。未来教育体系应加强媒介素养与人工智能通识教育，使公众不仅能够“识标识”，更能够“懂标识”“用标识”，形成理性判断与技术使用的能力。只有当公众具备对AI生成内容的批判性认知，标识才能真正发挥其信任锚点的作用。

　　人工智能的发展不仅是技术问题，更是社会命题，人工智能的发展也需要经历复杂的“社会适配”过程。中国生成式人工智能治理体系建设，为国际社会应对人工智能治理挑战提供宝贵的制度范本与中国经验。唯有在技术规范、法律底线与伦理共识的共同支撑下，才能构建起真正可持续、可信赖的人机协同未来。

　　作者：梁正　清华大学公共管理学院教授，人工智能国际治理研究院副院长