【编者按】在人工智能技术狂飙突进的今天，其双刃剑效应日益凸显。近日，马来西亚与印尼率先对马斯克旗下AI聊天机器人Grok亮出“红牌”，引发全球关注。这不仅是两国对数字空间伦理底线的坚决捍卫，更折射出AI生成技术滥用所引发的深层社会焦虑——当技术突破道德护栏，谁该为“数字裸奔”负责？从非自愿色情深伪到未成年人图像滥用，AI正在成为新型网络暴力的温床。这场东南亚的监管风暴，或许只是全球AI治理浪潮的前奏。技术无善恶，人心有边界。我们需要的不仅是更智能的工具，更是更清醒的规则。
【吉隆坡讯】马斯克旗下人工智能公司xAI开发的聊天机器人Grok，近日接连遭遇东南亚两国封杀！马来西亚与印度尼西亚成为全球首批封锁该AI工具的国家，当局直指其被滥用于生成色情及非自愿的伪造图像，数字伦理防线已然告急。
这场监管风暴背后，是全球对生成式AI的集体焦虑——当技术能凭空制造以假乱真的图像、声音与文本，现有安全网却根本拦不住恶意滥用。接入马斯克社交平台X的Grok聊天机器人，早已因生成篡改图像而臭名昭著：比基尼女性、性暗示姿势，甚至涉及未成年人的图像，都在其输出清单上。
东南亚两国监管机构痛陈，现有管控手段根本挡不住假色情内容的泛滥，尤其是针对妇女与未成年人的数字侵害。印尼政府周六率先按下暂停键，马来西亚紧随其后周日实施封锁。
“政府将非自愿性深度伪造视为对数字空间人权、尊严与公民安全的严重侵犯。”印尼通讯与数字事务部长梅蒂亚·哈菲德在声明中斩钉截铁。
该国数字空间监管总局局长亚历山大·萨巴尔揭露调查结果：Grok缺乏有效防护机制，用户竟能利用印尼居民真实照片批量生成色情内容。“这种未经同意的篡改与传播，不仅侵犯隐私与肖像权，更会造成心理、社会与名誉的多重伤害。”
在吉隆坡，马来西亚通讯与多媒体委员会周日祭出临时限制令，直指该工具“屡遭滥用”生成淫秽、色情及非自愿篡改图像，其中涉及妇女与未成年人的内容尤其令人揪心。
监管机构透露，本月曾向X公司及xAI发出加强安全防护的通牒，但对方回应主要依赖用户举报机制。“在司法与监管程序推进期间，此次限制是预防性且相称的措施。”声明强调，在建立有效防护前，封锁将持续。
2023年面世的Grok在X平台上可免费使用。用户不仅能通过它提问，还能标记自主创建的帖子或回复他人内容。去年夏季新增的“Grok Imagine”图像生成功能，更包含所谓“辛辣模式”，可生成成人内容。
就在东南亚出手之际，欧盟、英国、印度、法国等地也对Grok展开密集审查。尽管上周Grok已将图像生成编辑功能限为付费用户使用，试图平息全球对色情深伪内容的怒火，但批评者指出——这根本治标不治本。
