由人工智能生成的深度造假今年大放异彩，至少在让它看起来或听起来像名人做了一些不可思议的事情方面。汤姆·汉克斯兜售牙科计划。教皇弗朗西斯穿着时髦的羽绒服。美国参议员兰德·保罗穿着红色浴袍坐在国会大厦的台阶上。
但是明年美国总统大选之前会发生什么呢?
谷歌是第一家表示将对人工智能生成的欺骗性政治广告贴上新标签的大型科技公司，这些广告可能会伪造候选人的声音或行为。现在，一些美国议员呼吁社交媒体平台X、Facebook和Instagram解释为什么他们没有这样做。
周四，两名民主党国会议员致信meta首席执行官马克·扎克伯格和X首席执行官琳达·亚卡里诺，对他们平台上出现的人工智能生成的政治广告表示“严重关切”，并要求双方解释他们正在制定的任何规则，以遏制对自由公平选举的危害。
明尼苏达州参议员Amy Klobuchar在接受美联社采访时表示:“他们是两个最大的竞选平台，选民应该知道他们设置了什么护栏。”“我们只是问他们，‘你们不能这么做吗?你为什么不这么做?”这在技术上显然是可行的。”
克洛布查尔和美国众议员伊维特·克拉克在给高管的信中警告说:“随着2024年大选的临近，政治广告中这类内容缺乏透明度，可能会导致与选举相关的错误信息和虚假信息在你们的平台上泛滥，选民往往会转向了解候选人和问题。”
周四，前身为Twitter的X和Facebook和Instagram的母公司meta没有立即回应置评请求。克拉克和克洛布查尔要求这些高管在10月27日之前回答他们的问题。
这两家社交媒体公司面临压力之际，两位议员都在帮助牵头监管人工智能生成的政治广告。克拉克今年早些时候提出的一项众议院法案将修改联邦选举法，要求在选举广告中包含人工智能生成的图像或视频时作出免责声明。
克洛布查尔说，这是所需资金的“最低限度”。她正在参议院发起一项配套立法，希望在今年年底前获得通过。与此同时，我们希望大型科技平台“在我们制定标准的同时，自己做这件事，”克洛布查尔说。
谷歌已经表示，从11月中旬开始，它将要求对任何人工智能生成的选举广告做出明确的免责声明，这些广告会改变YouTube和其他谷歌产品上的人物或事件。这一政策既适用于美国，也适用于该公司验证选举广告的其他国家。Facebook和Instagram的母公司meta没有针对人工智能生成的政治广告的特定规则，但有一项限制用于虚假信息的“伪造、操纵或转换”音频和图像的政策。
最近，由克罗布查尔、密苏里州共和党参议员乔希·霍利(Josh Hawley)等人共同发起的一项参议院两党法案将更进一步，禁止与联邦候选人有关的“具有实质性欺骗性”的深度造假，但恶搞和讽刺除外。
人工智能生成的广告已经成为2024年大选的一部分，其中包括共和党全国委员会(Republican National Committee)今年4月播出的一则广告，旨在展示如果乔·拜登(Joe Biden)总统连任，美国的未来。它使用了虚假但真实的照片，展示了用木板封起来的店面，街道上的装甲军事巡逻，以及一波又一波的移民造成的恐慌。
Klobuchar表示，根据拟议的规定，这样的广告可能会被禁止。在特朗普的共和党主要对手、佛罗里达州州长罗恩·德桑蒂斯的攻击广告中，唐纳德·特朗普拥抱传染病专家安东尼·福奇博士的假照片也会如此。
另一个例子是，Klobuchar引用了今年早些时候的一个深度伪造视频，该视频声称民主党参议员伊丽莎白·沃伦(Elizabeth Warren)在接受电视采访时建议限制共和党人的投票。
克洛布查尔说:“如果在总统竞选中，让你喜欢或不喜欢的候选人说一些不真实的话，那将是非常具有误导性的。”“你怎么知道有什么不同呢?”
Klobuchar是参议院规则和行政委员会主席，他主持了9月27日关于人工智能和选举未来的听证会，证人包括明尼苏达州国务卿、民权倡导者和一些怀疑论者。共和党人和他们要求作证的一些证人一直对被视为侵犯言论自由保护的规定持谨慎态度。
智库TechFreedom的律师阿里·科恩(Ari Cohn)告诉参议员，到目前为止，在2024年大选之前出现的深度造假已经吸引了“广泛的审查，甚至嘲笑”，并没有在误导选民或影响他们的行为方面发挥太大作用。他质疑是否需要新的规则。
“即使是虚假言论也受到第一修正案的保护，”科恩说。“事实上，政治上的真假判断应该由选民来决定。”
今年8月，联邦选举委员会(Federal Election Commission)采取了程序性步骤，可能会对人工智能在政治广告中产生的深度造假行为进行监管，该委员会向公众开放了一份请愿书，要求其制定针对误导性图像、视频和音频剪辑的规则。
请愿书的公众评议期由倡导组织“公众公民”(public Citizen)提出，将于10月16日结束。
