“我看到了你的裸照。”
据西班牙报纸报道，这是一名14岁女孩今年第一天上学后，一名男孩对她说的令人不寒而栗的话。人工智能生成的她和其他女同学的深度假裸照在四所学校的网上流传，令受害者及其父母感到绝望。甚至还有一起涉嫌敲诈的案件。
“妈妈，他们说有一张我的裸照在流传，”女孩对母亲说。“他们用人工智能应用做到了这一点。我很害怕。”一些女孩也收到了。”
该案件在阿尔门德拉莱霍镇引发了家长们的愤怒，当地少年检察官办公室目前正在进行调查，据报道，到目前为止，已有20名受害者受到影响，并且已经确定了一群涉嫌制造深度造假的罪犯。
据称罪犯使用的深度伪造应用程序是免费使用的，任何拥有智能手机的人都可以使用——这是对人工智能技术的反乌托邦式使用，可能会继续在学校和其他地方造成混乱。
据报道，其中一名女孩在Instagram上被一名男孩索要钱。当她拒绝他时，他给她发了一张自己的假裸照。
随着科技变得越来越容易获得，我们应该期待这种事情会越来越多地发生。与此同时，在美国，联邦调查局(FBI)今年早些时候发出了关于深度伪造被用于敲诈勒索的警告。
联邦调查局在声明中说:“联邦调查局继续收到受害者的报告，包括未成年儿童和未经同意的成年人，他们的照片或视频被修改成露点的内容。”
为了遏制这一趋势，美国每个州的司法部长本月早些时候都致信国会，敦促成立一个委员会，并采取行动，反对人工智能生成的儿童性虐待材料(CSAM)的增加。
该组织在6月份报道称，专家们注意到人工智能生成的CSAM的传播有所增加，这已经阻碍了识别许多受害者的努力。
即将出台的法规是否有助于阻止令人深感不安的深度假图像浪潮，还有待观察，尤其是考虑到开源生成人工智能的激增，以及各国政府需要多长时间才能达成解决方案。
