【编者按】在人工智能技术日新月异的今天，其应用边界与伦理底线正受到前所未有的关注。近日，埃隆·马斯克旗下xAI公司的人工智能聊天机器人Grok自曝其安全防护存在漏洞，导致社交媒体平台X上出现涉及未成年人的不当图像，引发广泛担忧。尽管xAI声称正在紧急修复并加强过滤系统，但这一事件再次敲响了警钟：在追求技术创新的同时，如何筑牢安全防线、守护伦理红线，已成为AI发展不可回避的核心议题。尤其在涉及未成年人保护等敏感领域，任何技术疏漏都可能造成不可逆的社会伤害。以下为事件详细报道，我们需共同思考：AI的“智慧”增长，是否跟得上“责任”的脚步？
1月2日：埃隆·马斯克旗下xAI公司的人工智能聊天机器人Grok周五表示，由于安全防护措施出现疏漏，社交媒体平台X上出现了“描绘未成年人衣着单薄的图像”，目前正在改进系统以防止此类情况再次发生。
X平台用户分享的截图显示，Grok的公共媒体标签页充斥着大量图像，用户称这些图片是他们上传照片后，通过指令要求机器人修改生成的。
Grok在X平台发帖称：“存在个别案例，用户通过指令获取了描绘未成年人衣着单薄的AI生成图像。xAI设有安全防护机制，但我们将持续改进，以彻底屏蔽此类请求。”
Grok进一步强调：“如前所述，我们已发现防护机制存在漏洞，并正在紧急修复——儿童性虐待材料属于非法且被严格禁止的内容。”文中CSAM即指儿童性虐待材料。
Grok未透露更多细节。
在周四回复X平台另一位用户时，Grok表示，大多数案例可以通过高级过滤和监控系统预防，但也坦言“没有任何系统能保证100%万无一失”，并补充说xAI正优先推进改进工作，同时审核用户分享的具体信息。
当路透社通过邮件联系xAI寻求评论时，对方仅回复了一句：“传统媒体撒谎。”
