AI 生成的内容开始要亮明身份了
从 10 月 1 日起，AI 生成的内容在国内传播时得挂上牌子。国家网信办、工信部、公安部、广电总局四部门联合发布的《人工智能生成合成内容标识办法》在这一天正式施行，文本、图片、音频、视频、虚拟场景，凡是利用人工智能技术生成或合成的信息，都要带标识。
最先被普通用户感知到的变化，来自几个熟悉的 App。微信、视频号、抖音、B站、微博、小红书在办法落地前后陆续更新了用户协议，要求内容发布者以显著方式主动标识 AI 生成内容。不标的后果写得很直白：限流、下架，严重的封号。有短视频平台在用户刷到「萌娃洗菜烧火」那类内容时，会在画面下方加一行小字，提示内容为 AI 技术制作，虚构内容请谨慎甄别。有人把这句话截图发出来，说家里老人终于信了那些孩子是假的。
两道标识，一道给人看，一道给机器看
办法把标识拆成显式和隐式两种。显式标识是指用户能明显感知到的那种，比如画面角标、播放前的提示语、音频开头的语音声明。隐式标识嵌在文件的元数据里，人眼看不见，但平台和监管方用工具能读出来，用来回答「这段内容是谁生成的、从哪个服务出来的」这类问题。
责任按环节分下去。服务提供者要在内容生成、传播、下载这几个节点上保证标识完整；应用分发平台要审核上架的应用具不具备添加标识的功能；个人用户发布生成内容时，要主动声明。这条链子把过去只能事后追责的内容审核，往前挪到了产品设计和上架环节。
对靠搬运和洗稿吃饭的营销号来说，隐式标识是个硬约束。以前把别人的视频改个封面、调个色就能当成自己的原创发出去，现在元数据里可能还留着来源信息，平台能顺着追到最初的服务提供者，看它有没有履行标识义务。
为什么单独为一件事立个办法
标识这件事看着小，但它解决的是 AI 内容最麻烦的那部分：规模化识别。中科院科技战略咨询研究院研究员肖尤丹在一次解读里提到，标识制度的主要目标是实现大规模、高可靠性和低成本的监管。内容审核靠人工看不过来，靠模型判断又容易误伤，而标签是一种可以自动化核对、成本又低的信号。
它瞄准的另一个场景是诈骗。国家反诈中心 App 已经上线了「AI 内容鉴定」功能，上传文字、图片或视频，几秒钟给出一个初步判断。公安部刑侦局指导、上海市公安局研发的「国家反诈 AI」App 也同步上线，把可疑场景输进去，它会拆解常见的诈骗手法。换脸拟声这两年在电信网络诈骗里出现得越来越多，给 AI 内容加标识，是给这条链条上多设一道阻力。
标识办法不是孤立的动作。最高法发布了《关于依法审理涉人工智能纠纷案件的意见》，把 AI 换脸拟声、AI 幻觉侵权、网络开盒这些问题写进了裁判思路；中央网信办开展「清朗·整治 AI 应用乱象」专项行动，列出七类整治对象，包括未履行大模型备案、AI 数据投毒、生成合成内容标识落实不到位；9 月 14 日发布的《人工智能安全治理框架 3.0》把治理范围从单个技术环节铺到数据、算法、模型、应用、供应链全过程。10 月 8 日，行业第一部生成式 AI 服务安全分级标准开始实施，智能体相关的标准梳理出 13 大类、97 项风险。这些文件的时间点挨得很近，连起来看是一条从内容到行为、从单个模型到整条链的治理路径。
别的国家也在做同样的事
把视角拉远一点，标识制度的立法这几年是全球共识。美国、新加坡、欧盟、英国都在推进各自的生成式 AI 标识规则。欧盟《人工智能法案》的透明度条款在 2026 年 8 月 2 日生效，要求 AI 交互要披露、合成内容要标记、深度伪造要标注，违规最高罚 3500 万欧元或全球年营业额的 7%，两者取高。OpenAI 为了合规，宣布在欧盟范围内给 ChatGPT 和 Codex 生成的文本加不可见水印。
不同之处在发力点。欧盟走的是风险分级加高额罚款，把压力压在服务提供者身上；国内这套办法更强调全链条留痕和平台协同，把标识义务拆给服务方、分发方和使用者三方。两条路的共同前提是一样的：先让内容带上来源信息，后面才谈得上追责和治理。
落到创作者身上是什么体验
对普通创作者，变化不在技术而在习惯。以前发一张 AI 画的插画，可以当作普通作品发出去；现在要主动声明，声明之后流量会不会被算法压，是很多人心里的疑问。目前还没有公开的数据能回答这个。平台的暗示是，主动标识的内容不会被额外惩罚，真正被处理的是那些不标还想冒充真实拍摄的。
真正值得观察的是隐式标识能不能扛住二次加工。一段带水印的视频被剪进别人的作品、转几道码、截图再发，水印的存活率会掉。这也是 OpenAI 自己承认的短板：它的文本水印在替换 10% 词语后，检测率从约 92% 掉到 66%，替换 25% 只剩 17%。标识能提高作假的成本，但没法把作假这条路堵死。
更实际的问题在边界。一张真实照片被 AI 修过皮肤、换过背景、删掉路人，它算不算 AI 生成？办法给了方向，具体判断还得靠平台的执行细则。标签做得太宽，人人都在标，标签就失去信息量；做得太窄，又会漏掉大量处在灰色地带的内容。
标识办法改变的是默认值。在这之前，判断一段内容是不是 AI 生成，是平台的事、是观众的事，唯独不是发布者的事。现在它先成为发布者的事。这一步不解决所有问题，但它把「AI 生成」从一个可以隐瞒的选项，变成了一个必须回答的问题。