【编者按】在人工智能技术日新月异的今天，其滥用风险也日益凸显。近日，德国司法部针对AI图像操纵，特别是涉及侵犯人格权的深度伪造内容，宣布将出台更严厉的打击措施。这一动向直指当前社交媒体上利用AI工具大规模生成不雅图像、甚至涉及未成年人的恶劣现象。随着马斯克旗下社交平台X的内置聊天机器人Grok因“辛辣模式”卷入调查，AI伦理与法律监管的冲突再次被推至风口浪尖。技术本无善恶，但人性的阴暗面若借其无限放大，将对社会信任与个体尊严造成系统性破坏。德国此举不仅是对数字暴力的正面回击，更为全球AI治理敲响了警钟——在创新狂奔的同时，法律与道德的护栏必须紧紧跟上。
柏林，1月9日消息：德国司法部发言人周五表示，该部计划在近期提出一系列措施，以使当局能更有效地打击利用人工智能操纵图像、侵犯个人权利的行为。
亿万富翁埃隆·马斯克旗下社交媒体平台X的内置AI聊天机器人Grok，因其所谓的“辛辣模式”正在欧洲接受调查。该模式允许用户生成色情露骨图像。
路透社的一项调查发现，该聊天机器人的图像生成功能被用于制作女性和儿童衣着暴露的图片，且通常未经被描绘者本人同意。
德国媒体部长本周早些时候敦促欧盟委员会采取法律行动，制止他所说的X平台上“性骚扰的工业化”现象。
在例行政府新闻发布会上回应相关争议问题时，司法部发言人安娜-莱娜·贝克菲尔德表示，德国正准备在国内法庭层面应对这一问题。
“利用大规模操纵手段进行系统性侵犯个人权利的行为是不可接受的，”她说。“因此，我们希望确保刑法能够更有效地用于打击此类行为。”
她告诉记者，该部正在努力加强对深度伪造内容的监管，并计划制定一项反对数字暴力的法律，以支持受害者。
“我们希望让他们能够更容易地直接采取行动，对抗网络上对其权利的侵犯，”贝克菲尔德说。
她表示，司法部计划在不久的将来提出具体提案，并补充说目前无法对这些计划进行详细评论。
在最初驳斥了对Grok图像生成功能的担忧后，xAI现已将该功能限制为付费订阅者使用。马斯克上周表示，任何使用该聊天机器人创建非法内容的人，将面临与直接上传此类材料相同的后果。
