编者按：在人工智能技术狂飙突进的当下，伦理与监管的警钟再度敲响！近日，东南亚两大国家马来西亚与印尼相继出手，紧急封禁马斯克旗下AI聊天机器人Grok，引爆全球科技圈与监管层的激烈讨论。这并非简单的技术限制，而是一场关于数字时代人权尊严、未成年人保护与AI伦理的攻防战。当生成式AI沦为制造非自愿色情内容、未成年人深伪影像的帮凶，各国监管机构如何筑起防火墙？科技巨头又该如何平衡创新与责任？这场风波不仅暴露了AI内容审核的致命漏洞，更折射出全球数字治理的迫切困境。以下为您深入解析这场席卷多国的AI监管风暴——
马来西亚与印度尼西亚上周末以担忧该工具被用于生成未经同意的色情淫秽内容为由，封禁了埃隆·马斯克的人工智能聊天机器人Grok的访问权限。
马来西亚监管机构周日下令对xAI的聊天机器人实施临时限制，原因是“X公司屡次未能解决”与该AI工具相关的内容风险。
据CNBC对声明的翻译，此举正值印尼因类似担忧介入并暂时封禁Grok访问权限的一天后，印尼方面已要求X公司官员就此事件作出澄清。
东南亚国家的这些行动，是在发现该AI工具的一些用户生成了未经同意的露骨图像和深度伪造内容（包括描绘衣着暴露的未成年人）之后采取的。
马斯克的公司最近更新了其Grok Imagine功能，使在该平台上通过文本提示更轻松地生成图像成为可能。该平台与马斯克的社交媒体平台X整合，使其拥有广泛的触达范围。
随着对Grok内容审核政策的担忧不断升级，xAI宣布将把图像生成和编辑功能限制为付费订阅者使用，以弥补允许色情内容输出的安全漏洞。
马斯克在X上回应时也坚称，通过Grok创建非法内容的用户将面临等同于直接将此类材料上传到社交媒体平台的后果。
CNBC试图联系xAI就周末的事态发展置评。该公司的媒体联系邮箱回复了一条自动消息，写着“传统媒体撒谎”。
然而，X公司在这场争议中的公开和私下回应，未能消除印尼和马来西亚监管机构以及其他已启动调查方的担忧。
马来西亚通讯与多媒体委员会表示，X公司“不充分”的回复“主要依赖用户主动举报机制，未能解决AI工具设计和运行所带来的固有风险”。
该监管机构称：“因此，在法律和监管程序进行期间，实施此限制是一项预防性和相称的措施。在有效的保障措施（特别是防止涉及妇女和儿童的内容）实施之前，对Grok的访问将保持受限状态。”
印尼和马来西亚都维持严格的反色情法律，更广泛地禁止在线分享淫秽和色情内容。
与此同时，印尼通讯与数字事务部部长梅蒂亚·哈菲德表示：“政府将未经同意的色情深度伪造内容视为对数字空间中人权、尊严和公民安全的严重侵犯。”
根据国有安塔拉通讯社分享的声明，哈菲德还将滥用AI制作虚假色情内容归类为一种“基于数字的暴力”。
其他司法管辖区的当局，包括欧盟、英国、巴西和印度，也呼吁调查Grok在助长淫秽和未经同意的深度伪造内容方面的作用。
与此同时，华盛顿的一些民主党议员建议应用商店暂停该AI工具，至少直到马斯克实施重大变革。
美国司法部在上周给CNBC的一封电子邮件声明中表示：“我们极其严肃地对待AI生成的儿童性虐待材料，并将积极起诉任何（儿童性虐待材料）的制作或持有者。”
声明补充道：“我们将继续探索优化该领域执法的方式，以保护儿童，并追究那些利用技术伤害我们最脆弱群体者的责任。”
