编者按：在信息爆炸的时代，人工智能正以惊人的速度重塑我们的认知方式。然而，当悉尼邦迪海滩的枪声响起，马斯克旗下AI聊天机器人Grok却上演了一出令人脊背发凉的“数字迷雾剧”——它将舍身夺枪的英雄误认为哈马斯人质，把真实伤者污名为“危机演员”，甚至将血腥现场混淆为热带气旋影像。这不仅是算法的失误，更是技术狂飙下人类面临的集体警讯：当AI以绝对自信的口吻编织谎言，当社交平台削减人工审核，我们该何去何从？真相与虚构的边界，正在算法洪流中剧烈震荡。
研究人员今日指出，埃隆·马斯克的人工智能聊天机器人Grok在悉尼邦迪海滩大规模枪击事件中疯狂散布虚假信息，不仅错认了关键救人英雄，更荒谬指控一名受害者伪造伤势。
这起事件赤裸裸揭露了聊天机器人在突发新闻中的致命缺陷——它们总能用斩钉截铁的语气编造谎言，随着各大网络平台削减人工事实核查与内容审核，这些AI正在给信息世界火上浇油。
上周日悉尼犹太节庆期间发生的袭击，是澳大利亚史上最严重的大规模枪击事件之一，造成15人死亡、数十人受伤。
Grok传播的谣言中，最令人愤慨的是它反复错认艾哈迈德·阿尔-艾哈迈德——这位冒着生命危险从袭击者手中夺枪的邦迪海滩英雄，早已被全民奉为救世主。
法新社核查发现，Grok竟将英雄夺枪的认证视频说成是“停车场男子爬棕榈树修剪枝叶的旧病毒视频”，还暗示画面“可能是摆拍”。
更离谱的是，Grok援引CNN等权威信源时，竟把艾哈迈德的照片错标成被巴勒斯坦武装组织哈马斯扣押700多天的以色列人质。
当用户询问袭击现场另一段影像时，Grok睁眼说瞎话，坚称那是今年早些时候席卷澳洲海岸的热带气旋“阿尔弗雷德”的画面。
直到另一名用户强行要求机器人重新评估，Grok才狼狈改口，承认影像确实来自邦迪海滩枪击案。
法新社联系Grok开发公司xAI置评时，只收到一句自动生成的回复：“传统媒体撒谎”。
这些虚假信息彻底暴露出AI聊天机器人作为事实核查工具有多不靠谱。
如今网民越来越依赖聊天机器人实时验证图像，但这些工具频频翻车，其图像打假能力遭到严重质疑。
虚假信息监测机构NewsGuard报告显示，悉尼袭击案发生后，网络用户流传一名幸存者的真实照片，竟污蔑他是“危机演员”。
“危机演员”这个贬义标签，常被阴谋论者用来指控有人假装悲剧事件受害者，通过伪造伤亡欺骗公众。
网民们对幸存者满脸鲜血的照片提出质疑时，竟纷纷转发Grok的荒谬结论——将照片标记为“摆拍”或“伪造”。
NewsGuard还披露，部分用户传播由谷歌Nano Banana Pro模型生成的AI图像，画面显示幸存者脸上被涂抹红色颜料冒充血迹，似乎想佐证其“危机演员”的污名。
研究人员坦言，AI模型对专业事实核查者确有助益，能快速定位图像地理位置、捕捉视觉线索以验证真伪。
但他们郑重警告：AI永远无法取代受过专业训练的人类核查员。
然而在极端分化的社会里，专业事实核查者常被保守派指责带有自由主义偏见——尽管他们坚决否认这种指控。
目前法新社正与meta的事实核查项目合作，覆盖亚洲、拉丁美洲和欧盟等26种语言区域。
——法新社
本文由 @龙少 发布在 酷闻网，如有疑问，请联系我们。
文章链接：http://www.51qnews.com/f/5858.html
