【编者按】在人工智能技术日新月异的今天，深度伪造（Deepfake）如同一把双刃剑，既展现了科技的魅力，也带来了前所未有的挑战。近日，YouTube宣布将扩大其AI生成内容检测技术的应用范围，首次向政府官员、政治候选人和记者等群体开放测试。这一举措不仅是平台对虚假信息传播的积极回应，更是在数字时代维护公众对话诚信的重要尝试。随着AI生成的“换脸”视频在网络上泛滥，如何平衡言论自由与技术风险，成为全球社交媒体平台共同面临的难题。YouTube此次的试点项目，不仅为高风险人群提供了新的“防护盾”，也为未来数字内容的治理提供了新的思路。在技术飞速发展的同时，我们是否已经准备好应对它带来的伦理与法律挑战？本文将带您深入了解YouTube的这一最新举措，探讨其在保护公众利益与维护言论自由之间的微妙平衡。
YouTube周二宣布，正在将其识别AI生成深度伪造内容的面部相似度检测技术，扩展至一个由政府官员、政治候选人和记者组成的试点群体。该试点项目的成员将获得一款工具，用于检测未经授权的AI生成内容，并可在认为其违反YouTube政策时请求移除。
这项技术本身已于去年在早期测试后，向YouTube合作伙伴计划中约400万创作者推出。
与YouTube现有的Content ID系统（用于检测用户上传视频中受版权保护的内容）类似，面部相似度检测功能专门寻找通过AI工具生成的模拟人脸。这些工具有时被用来传播虚假信息并操纵人们对现实的认知，因为它们利用知名人物（如政治家或其他政府官员）的深度伪造形象，在这些AI视频中说出或做出他们在现实生活中从未有过的事情。
通过这项新的试点计划，YouTube旨在平衡用户的自由表达与AI技术可能带来的风险——该技术能够生成足以以假乱真的公众人物形象。
“此次扩展真正关乎公共对话的诚信，”YouTube政府事务与公共政策副总裁莱斯利·米勒在周二发布前的新闻简报会上表示。“我们知道，AI冒充的风险在公共领域尤其高。但在提供这项新防护措施的同时，我们也在谨慎考虑如何使用它。”她指出。
米勒解释说，并非所有检测到的匹配内容在接到请求后都会被移除。相反，YouTube将根据现有的隐私政策指南评估每个请求，以确定内容是受保护的 parody（戏仿）或政治批评形式，还是违规内容。
该公司表示，他们也在联邦层面倡导这些保护措施，支持华盛顿特区的《NO FAKES法案》，该法案旨在规范使用AI未经授权复制个人声音和形象的行为。
要使用这项新工具，符合条件的试点测试者必须首先通过上传自拍照和政府身份证件来验证身份。随后，他们可以创建个人资料、查看出现的匹配内容，并选择性地请求移除。YouTube表示，计划最终让人们能够在违规内容上线前阻止其上传，或者可能允许他们从这些视频中获利，类似于其Content ID系统的运作方式。
该公司未确认哪些政治家或官员将成为首批测试者，但表示目标是逐步使该技术广泛可用。
这些AI生成的视频将被相应标注，但标签的位置并不统一。对于一些视频，标签会出现在视频描述中；而涉及更“敏感话题”的视频，标签将直接显示在视频画面前端。这是YouTube对所有AI生成内容采取的统一做法。
“有很多内容是用AI生成的，但这种区分实际上对内容本身并不重要，”YouTube创作者产品副总裁阿姆贾德·哈尼夫在解释标签放置位置时表示。“它可能是一个用AI生成的卡通。因此，我认为需要判断这是否属于一个值得使用醒目免责声明的类别。”
YouTube目前尚未透露创作者通过这项深度伪造检测技术移除了多少此类AI深度伪造内容，但指出截至目前移除的内容量“非常少”。
“我认为对许多创作者来说，这主要是让他们意识到有什么内容被创建出来，但实际移除请求的数量确实非常、非常低，因为大多数内容最终被证明对他们的整体业务相当无害甚至有益。”哈尼夫说。
但对于政府官员、政治家或记者的深度伪造内容，情况可能并非如此。
未来，YouTube计划将其深度伪造检测技术扩展到更多领域，包括可识别的语音以及其他知识产权，如流行角色形象。
