01 触发事件

2025 年，YouTube 宣布把 AI likeness detection 扩展到所有 18 岁以上用户。按 The Verge 转述，这个功能通过用户自拍式面部扫描，在 YouTube 内监测疑似 lookalike / deepfake 内容；如果匹配，平台会通知用户，用户可以进一步请求下架。

另一个关键事实是，YouTube 之前先在 creators 中测试，随后扩展到 government officials、politicians、journalists 等高风险人群，现在才走向全量成年用户。

还有一个很重要但容易被忽略的细节：YouTube 此前表示，真正发起的 removal requests 数量“very small”。

这不是一个“AI 平台又加了个安全功能”的新闻。

这才是 YouTube 在说的事：当生成门槛下降到普通用户都可能成为 deepfake 目标时，平台不能只卖上传和 distribution，还必须把身份侵权处理流程产品化。

我没在 YouTube 内部看过该系统的 precision / recall，也不知道它对 face embedding、视频级 matching、还是多模态检索依赖多深，所以对实际检测能力要保留判断。

02 这事的真正含义

表面上看，这是 content moderation。

但问题不在 moderation 本身，而在 UGC 平台的 liability 边界正在被生成式 AI 改写。

过去十几年，YouTube 的核心系统是推荐、广告和版权治理。版权侧有成熟得多的 Content ID：权利人上传 reference file，平台自动匹配，再进入 claim / takedown 流程。那套系统的本质，是把“侵权识别”标准化成平台能力。

现在 likeness detection 做的是类似动作，只不过对象从 copyrighted asset 变成了 人的身份特征。

这两者差别很大。

版权通常有明确权属文件、reference asset、法律定义和商业利益链条；而 likeness 则更模糊：像不像、是不是 parody、是不是 satire、是不是 public-interest speech、是不是 consented synthetic media，这些都更难自动化。

也就是说，YouTube 不是在部署一个模型，而是在搭建一条新的 policy stack：

  • 身份采集：用户愿不愿上传自拍 reference
  • 模型检测：lookalike matching 的阈值怎么设
  • 通知流程：谁收到 alert，何时触发
  • 申诉与下架：平台站在哪一边
  • 误报与滥用：真实新闻、二创、评论视频会不会被伤及

真正会被定价的，不是 detection API 本身，而是 平台替用户承担多少“身份被伪造后的执行成本”。

这件事对 AI builder 的启发也很直接：未来多数生成平台竞争的，不只是 model quality，而是 生成能力外面的 trust infrastructure。包括 provenance、watermark、identity verification、consent ledger、audit trail。

如果没有这层东西，模型再强，distribution 端也可能不给你通行证。

我可能高估了 YouTube 这次动作的行业示范效应，因为新闻里没有给出规模化 abuse 数据，也没有证明 deepfake removal 已经压到平台的核心运营指标上。

03 历史类比 / 结构对照

更像的历史参照，不是某次模型发布，而是 YouTube 当年的 Content ID，以及更早一点，Facebook/Twitter 在 2016 后把 election integrity 和 account authenticity 产品化。

共同点在于：平台一开始都把问题当作边缘治理，最后发现那是核心基础设施。

Content ID 的意义，从来不只是“识别侵权视频”。它真正完成的是：把原本只能靠法律函件和人工投诉处理的权利冲突，前移成平台内可扩展的 machine workflow。代价是高昂的系统建设成本，回报是平台规模可以继续扩张。

今天的 likeness detection 也在走这条路。

如果类比 2007 年 iPhone，deepfake detection 当然不够那个级别；但如果类比 2014 年 AWS 把运维能力抽象成云服务，就更接近了：平台把原来用户自己难以完成的风险控制，变成默认服务层。

这背后还有一个更大的结构矛盾。

生成模型在供给侧持续降低内容生产成本；而平台在分发侧不得不提高“内容可信性”的审查成本。也就是说，token 越便宜，信任越贵。

这是生成式 AI 产业里一个越来越清楚的分叉：

  • 模型厂商推动 creation abundance
  • 分发平台承担 authenticity burden

如果这个判断成立，那么未来 moat 不只在模型训练，也在谁能把 detection、attribution、identity claim 和 removal 执行做成低 friction 的闭环。

这对闭源大平台反而有利。因为它们 already own distribution，而且有账户体系、KYC 能力、法务团队、政策执行团队。开源模型可以把 deepfake 生成能力 commoditize，但很难顺手提供大规模 dispute resolution。

我没法确认 YouTube 会不会进一步把这套能力开放成 API，或者与 Google 账户体系、广告安全系统更深集成；但如果真这么走，治理能力会从 cost center 变成 platform moat。

04 对 AI builder 意味着什么

对 AI builder 来说，这周和这个月该调整的，不是“要不要做 deepfake 应用”，而是 默认假设 distribution 平台会越来越严格地要求身份与合规证明。

几个具体判断。

第一，如果你做 avatar、face swap、AI video、虚拟人、AI ad creative，产品设计里应该提前加入 consent artifact。

不是一句 checkbox，而是可追溯的授权记录、reference media 来源、撤销机制、生成日志。因为平台真正会问的不是“你模型多强”，而是“当被投诉时，你能否证明这是被授权的”。

第二，如果你做 B2B API，合规能力可能比模型能力更能抬高 switching cost。

企业客户尤其是 media、marketing、creator economy 客户，不会只买 generation endpoint。他们会买：

  • 风险分级
  • 水印或 provenance metadata
  • 审计日志
  • 下游平台兼容性
  • 侵权投诉响应 SLA

这不是漂亮功能，而是成交条件。

第三，AI infra 层会出现新的 routing 逻辑：不是根据质量 / 价格选模型，而是根据 risk class 选生成链路。

低风险素材走便宜模型，高风险涉及真人 likeness 的任务走受控模型、受控模板和受控发布渠道。这有点像支付行业里不同 MCC 的风控分层。

第四，如果你是模型 API 消费者，别只盯每百万 token 成本。

视频、图像、语音场景里，最贵的环节可能不是 inference，而是 post-generation verification 与 dispute handling。这会反过来改变 unit economics。一个看似便宜的开源方案，如果需要你自己扛 moderation、logging、投诉处理，TCO 可能更高。

第五，对 developer tooling 创业者来说，机会在“compliance as SDK”。

也就是把 consent capture、face-match check、policy rules、watermark verification、case management 做成可嵌入模块。今天多数团队还在卷生成体验，但企业真正迟早要补的是这一层。

我可能低估了用户 adoption friction。普通人未必愿意给平台上传自拍 reference，尤其在隐私敏感地区；如果 enrollment 不高，这类系统的覆盖率就会受限。

05 反方观点 / 风险

我刚才的判断，有几个地方很可能错。

第一，YouTube 这次也可能只是政策姿态，而不是行业拐点。

从现有公开信息看，平台自己都说 removal requests “very small”。这意味着两种可能：要么 deepfake 侵权规模还没有大到值得重估行业结构；要么检测功能实际命中率和用户使用率都有限。若是后者，这更像 PR-ready safety layer，而不是新的 platform moat。

第二，likeness detection 未必能复制 Content ID 的成功。

版权匹配依赖清晰 reference 与相对稳定的法理框架；而“像我”这件事天然灰度更高。误报会伤害新闻、评论、恶搞、二创，漏报又会让受害者失去信任。平台可能永远无法把它 fully automate，最后还是大量依赖人工 review。那样一来，规模效应会弱很多。

第三，builder 未必真的需要重投这条线。

很多应用并不依赖公开 distribution，而是私域工作流、企业内部生产、广告素材中台、客服 avatar。在这些场景，平台审查压力并不直接传导。过早把产品做重、做合规套件，可能反而拖慢 PMF。

第四，还有一个更尖锐的反论：治理基础设施越强，越利好 incumbent，越不利好开放创新。

如果 YouTube、Meta、TikTok 这类平台把“被允许分发”的标准，绑定到自家 identity / provenance / policy stack，那独立开发者和小模型供应商的进入门槛会被抬高。结果不是更安全，而是 distribution 权力更集中。

第五，我也可能把“deepfake 风险”看得过于 AI 原生了。

现实里，很多真正棘手的问题不在模型，而在执法、司法、跨境平台责任和公共人物标准。技术检测只能解决一部分，甚至未必是最大的一部分。平台做了检测，不代表治理闭环真的成立。

所以更稳妥的结论是：YouTube 这次动作不一定是 deepfake 战争的决定性时刻，但它确实释放了一个明确信号——主流分发平台已经开始把“身份被生成式 AI 滥用”视作需要产品化处理的常规问题，而不是例外事件。

对 builder 来说，真正该调整的认知不是恐慌，而是接受一个新现实：生成能力继续 commodity 化，能够穿透 distribution 审核、承接投诉、保存证据、解释来源的那一层，才会越来越值钱。