据社交网络分析公司Graphika称，上月底在社交媒体上大量传播的泰勒·斯威夫特(Taylor Swift)色情深度伪造照片，源于一项在线挑战，该挑战旨在打破旨在阻止人们用人工智能生成淫秽图片的安全机制。
研究人员发现，几个星期以来，互联网论坛4chan的用户每天都参加比赛，寻找可以帮助他们绕过流行图像生成服务过滤器的单词和短语，这些服务包括微软的Designer和OpenAI的Dall-E。最终目标是创造歌手和政治家等杰出女性形象的性形象。
Graphika的高级分析师克里斯蒂娜López G.在一封电子邮件中说:“虽然泰勒·斯威夫特(Taylor Swift)的色情照片被病毒传播，引起了主流对人工智能生成的未经同意的私密图像问题的关注，但她远非唯一的受害者。”在这些照片的发源地4chan社区，她甚至不是最常被攻击的公众人物。这表明，从全球名人到学生，任何人都可以成为这种方式的目标。”
4chan的一位代表没有回应置评请求。
根据Graphika的分析，深度造假始于1月初的该频道，然后转移到Telegram，然后是X，在淫秽照片引发愤怒后，X被迫屏蔽了所有泰勒·斯威夫特的搜索。据the Verge报道，其中一张照片在X上停留了17个小时，浏览量超过4500万次。
许多文字图像生成公司已经禁止了某些关键词，以阻止用户生成有害内容。然而，4chan和其他在线论坛上的一些用户分享了如何突破这些安全措施的建议。
“这些图片来自一群人，他们受到规避生成式人工智能产品保障措施的‘挑战’的激励，而新的限制被视为‘失败’的又一个障碍，”López G.说。“了解这种恶意活动的游戏化本质很重要，这样才能从源头上防止进一步的滥用。”
多年来，专家们一直担心深度造假技术正在失控，但在未经同意的情况下，斯威夫特走红的照片帮助将深度造假推到了政治议程的首位。白宫发表声明谴责斯威夫特的照片，来自纽约的民主党国会议员乔·莫雷尔(Joe Morelle)表示，他希望这一事件能引起人们对他的努力的关注，他正在努力将深度伪造的色情作品列为联邦犯罪，可以处以罚款和监禁。
在4chan频道上，斯威夫特只是众多名人中的一个，他们的肖像被用来制作性或暴力图片。其他还有比莉·艾利什、爱莉安娜·格兰德和艾玛·沃特森。斯威夫特、艾莉什、格兰德和沃森的代表没有回应置评请求。
截至1月30日，斯威夫特的深度伪造请求仍在提出，其中至少有一个请求是寻求她的暴力图像。
据专家介绍，名人深度假色情内容多年来一直存在于众多网站上，但随着人们使用这种技术的复杂性和便捷性，涉及普通人的案件也在增加。通常，受害者几乎没有追索权，而且很难将这些照片删除。- - - - - -布隆伯格
×
