当有人看到不存在的东西时，人们通常把这种经历称为幻觉。当你的感官知觉与外界刺激不一致时，就会产生幻觉。
依赖于人工智能的技术也会产生幻觉。
当一个算法系统产生的信息看似合理，但实际上是不准确或误导性的，计算机科学家称之为人工智能幻觉。研究人员在不同类型的人工智能系统中发现了这些行为，从聊天机器人（如ChatGPT）到图像生成器（如Dall-E）再到自动驾驶汽车。我们是研究人工智能语音识别系统中的幻觉的信息科学研究人员。
在日常生活中使用人工智能系统的任何地方，它们的幻觉都可能带来风险。有些可能是次要的——当聊天机器人对一个简单的问题给出错误的答案时，用户可能会被误导。但在其他情况下，风险要高得多。从使用人工智能软件做出判决的法庭，到使用算法确定患者是否有资格获得保险的健康保险公司，人工智能的幻觉可能会带来改变人生的后果。它们甚至可能危及生命：自动驾驶汽车使用人工智能来检测障碍物、其他车辆和行人。
幻觉及其效果取决于AI系统的类型。对于大型语言模型（人工智能聊天机器人的基础技术），幻觉是一些听起来令人信服但不正确、编造或不相关的信息。人工智能聊天机器人可能会引用一篇不存在的科学文章，或者提供一个完全错误的历史事实，但让它听起来可信。
例如，在2023年的一起法庭案件中，一名纽约律师在ChatGPT的帮助下提交了一份法律摘要。一位眼光敏锐的法官后来注意到，简报中引用了ChatGPT编造的一个案例。这可能会导致法庭上不同的结果，如果人类无法检测到幻觉信息。
使用可以识别图像中的物体的人工智能工具，当人工智能生成与提供的图像不一致的字幕时，就会产生幻觉。想象一下，让系统列出一张图像中的对象，其中只包括一个女人从胸部开始打电话，然后得到的回答是一个女人坐在长凳上打电话。这种不准确的信息可能会在准确性至关重要的情况下导致不同的后果。
工程师通过收集大量数据并将其输入检测数据模式的计算系统来构建人工智能系统。系统根据这些模式开发回答问题或执行任务的方法。
给人工智能系统提供1000张不同品种狗的照片，并相应地标记，系统很快就会学会识别贵宾犬和金毛猎犬的区别。但是给它一张蓝莓松饼的照片，正如机器学习研究人员所展示的那样，它可能会告诉你这个松饼是一只吉娃娃。
当系统不理解所呈现的问题或信息时，它可能会产生幻觉。当模型根据训练数据中的相似上下文填补空白时，或者当模型使用有偏差或不完整的训练数据构建时，通常会出现幻觉。这导致了错误的猜测，就像贴错标签的蓝莓松饼一样。
区分AI幻觉和有意创造的AI输出是很重要的。当一个人工智能系统被要求具有创造性时——比如在写故事或生成艺术图像时——它的新颖输出是预期和期望的。另一方面，当AI系统被要求提供事实信息或执行特定任务时，却产生了错误或误导性的内容，尽管它表现得很准确，就会产生幻觉。
关键的区别在于背景和目的：创造性适用于艺术任务，而当需要准确性和可靠性时，幻觉是有问题的。
为了解决这些问题，公司建议使用高质量的训练数据，并限制人工智能的反应，以遵循某些指导方针。然而，这些问题可能会在流行的人工智能工具中持续存在。
将蓝莓松饼称为吉娃娃之类的输出的影响可能看起来微不足道，但考虑到使用图像识别系统的不同类型的技术：无法识别物体的自动驾驶汽车可能会导致致命的交通事故。一架自动军用无人机错误识别目标可能会危及平民的生命。
对于提供自动语音识别的人工智能工具来说，幻觉是人工智能的转录，其中包括从未真正说过的单词或短语。这更有可能发生在嘈杂的环境中，在这种环境中，人工智能系统可能最终会添加新的或不相关的单词，以试图破译背景噪音，如经过的卡车或婴儿的哭声。
随着这些系统越来越频繁地整合到医疗保健、社会服务和法律环境中，自动语音识别中的幻觉可能导致不准确的临床或法律结果，从而伤害需要社会支持的患者、刑事被告或家庭。
无论人工智能公司如何努力减轻幻觉，用户都应该保持警惕，质疑人工智能的输出，尤其是当它们被用于需要精确和准确的环境时。通过可信来源对人工智能生成的信息进行双重检查，必要时咨询专家，并认识到这些工具的局限性，这些都是将风险降到最低的必要步骤。
