【编者按】在人工智能技术狂飙突进的今天，其阴暗面正悄然侵蚀数字世界的伦理底线。近日，埃隆·马斯克旗下社交平台X的AI聊天机器人Grok被曝可生成儿童色情内容，引发英国政界与监管机构的震怒。科技大臣直言将支持封杀X，首相府痛斥其将犯罪功能“升级为付费服务”是对受害者的侮辱。这场风暴不仅掀开了生成式AI监管的全球性漏洞，更暴露出科技巨头在商业利益与社会责任间的危险摇摆。当技术突破撞上人性底线，我们究竟需要怎样的法律铁网与道德护栏？以下是事件全景剖析——
英国科技大臣近日表示，若埃隆·马斯克的社交平台X拒绝遵守英国法律，她将支持通信管理局（Ofcom）对该平台实施有效封禁。此番表态源于对深度伪造技术泛滥的深切担忧。
监管机构透露，在X及其人工智能子公司XAI于周一紧急回应质询后，已启动“快速评估程序”。此前，唐宁街十号严斥聊天机器人Grok的功能调整方案，称其“侮辱了性别歧视与性暴力受害者”。
这场风波起于媒体曝光：X平台的人工智能聊天机器人竟被用户诱导生成包括儿童在内的色情图像。更令人愤慨的是，平台目前仅将此类请求限制为付费订阅者专享——这意味着作恶者的姓名与支付信息将被平台记录在案。
科技大臣莉兹·肯德尔厉声谴责：“制作妇女与儿童的色情篡改图像是可鄙且令人发指的行为。如果Grok允许付费用户进行此类操作，这不仅是侮辱，更是完全不可接受的。我要求Ofcom充分行使议会赋予的法律权力。”
“我和广大公众都期待Ofcom在数日而非数周内公布后续措施。”她强调，“我必须提醒XAI：《网络安全法》包含封禁拒不遵守英国法律的服务的权力。若Ofcom决定行使该权力，我们将全力支持。”
Ofcom发言人回应：“我们已于周一紧急联系涉事企业，设定今日为最终答复期限，并已收到回复。目前正紧急开展快速评估，将尽快公布进展。”根据《网络安全法》，该机构最高可处以1800万英镑或全球营收10%的罚款，并可提起刑事诉讼。
监管机构还可命令支付服务商、广告商及互联网服务提供商终止与违规网站合作，实质实现封禁——但这需获得法院批准。肯德尔同时指出，正在议会审议的《犯罪与警务法案》将禁止“脱衣软件”，未来数周内还将把未经同意制作私密图像的行为正式定罪。
唐宁街早前批评称，X的调整方案无异于将深度伪造制作者成“尊享服务”。首相发言人直言：“这根本不是解决方案，实际上是在侮辱受害者。但它确实证明：只要愿意，X完全能迅速采取行动。”他类比道：“若传统媒体在市中心展示违法图像，早就被立即撤下并面临公众声讨。”
议会两大委员会已就此致函Ofcom，要求1月16日前作出答复。文化媒体与体育委员会批评X的应对措施“未能正视问题严重性”，其主席卡罗琳·迪纳纳奇女士更在泰晤士电台直言：“这简直是把变态狂变成了X的付费客户。”
科学创新与技术委员会则质询政府禁止“脱衣工具”的时间表，并警告《网络安全法》在生成式AI监管方面存在漏洞。主席奇·奥努乌拉女士指出：“我们去年就警示该法案千疮百孔——特别是未明确监管生成式AI。近期深度伪造事件赤裸裸证明：英国公民正暴露于网络危害中，而社交媒体公司却逍遥法外。”
自由民主党呼吁Ofcom立即禁止X在英运营，并要求国家犯罪调查局启动刑事调查。影子商业大臣安德鲁·格里菲斯则反对抵制X，认为“必须留在舆论发生的战场”。与此同时，美国佛罗里达州众议员安娜·保利娜·卢娜威胁称，若英国封禁X，将推动立法制裁英国。
互联网观察基金会政策主管汉娜·斯沃斯基披露，其分析师已确认存在11至13岁儿童的“犯罪图像”，疑似由Grok生成。她严正表态：“仅限制访问权限远远不够——这种能制造恐怖图像的工具本就不该存在。企业必须确保产品在设计阶段就保障安全，如果政府与监管机构需要强制他们设计更安全的工具，那就必须执行。坐等危险产品被滥用后再行动，绝对不可接受。”
马斯克此前坚称“使用Grok制作非法内容者将承担与上传非法内容相同的后果”。X平台声明已对儿童性虐待材料等非法内容采取行动，“包括删除内容、永久封号，必要时与地方政府及执法部门合作”。
