【编者按】当AI幻觉渗透进价值44万澳元的政府报告，四大会计师事务所的权威面具被彻底击碎。德勤澳大利亚公司用GPT-4o撰写的分析报告竟虚构法院判决、伪造学术著作，连法官姓名都拼写错误，最终被迫退款换稿的荒诞剧，揭开了AI辅助决策时代的残酷真相：算法不会说谎，但会编造事实。这场发生在福利系统自动化处罚研究中的科技闹剧，既是对盲目信任AI的当头棒喝，更敲响了对科技巨头交付成果的监管警钟。当机器开始杜撰法律条文，我们是否正在通往数字乌托邦的路上埋下定时炸弹？
澳洲《金融评论报》周日曝出猛料：四大会计师事务所之一的德勤澳洲分公司，在为其堪培拉政府撰写的报告被查出存在大量AI生成事实错误后，已同意部分退款！
就业与劳资关系部在上周五长周末前悄然行动，将7月发布的原版报告替换成237页的修订版。官方最初轻描淡写称更新只是补充新内容，修正”部分脚注和参考文献”。
这场风波的引爆者——悉尼大学学者克里斯·拉吉早就指出报告中存在大量大语言模型典型的”幻觉”，迫使德勤在8月启动内部审查。
修订版报告新增的声明石破天惊：确认使用了微软Azure OpenAI的GPT-4o模型！更修正了十余处致命错误——包括引用根本不存在的法院判决和学术论文，甚至编造了澳大利亚竞争法庭副庭长詹妮弗·戴维斯法官（首版误拼为Davis）的虚构陈述。
拉吉向《金融评论报》透露，德勤的坦白将此前”强烈怀疑”坐实为确凿证据，尽管其认罪声明”深埋方法论章节”。
就业部发言人证实德勤”同意退还合同尾款”，具体金额未公开。这项关于福利系统自动处罚数字化应用的全套研究耗资44万澳元（约29万美元）。
作为福利专家的拉吉透露，最初破绽是报告引用了一本所谓其悉尼大学同事丽莎·伯顿·克劳福德撰写的著作——这个书名不仅超出其研究领域，根本就是子虚乌有！
