最近的一项调查显示，微软的人工智能聊天机器人“副驾驶”(Copilot)存在令人不安的问题，传播与选举有关的错误信息和阴谋论。在一个案例中，研究人员向人工智能聊天机器人询问针对瑞士立法者的腐败指控，该平台立即回复了细节和来源，但只有一个问题——人工智能“幻觉”了指控和支持信息。换句话说，它制造了电荷。
报道称，在一项相关研究之后，人工智能聊天机器人传播的信息的完整性受到了审查。据报道，微软的人工智能聊天机器人Copilot，最初被称为必应聊天，一直在用一些阴谋论、错误信息、过时或不正确的数据来回应政治问题，尤其是在选举方面。
分享的一份独家报告强调了这些问题，表明聊天机器人倾向于将有关选举的查询与阴谋论和虚假信息联系起来。例如，当被问及2024年美国大选的投票地点时，“副驾驶”提到了不相关的政治事件，比如俄罗斯选举。此外，当提示输入选举候选人的信息时，它列出了不再参加竞选的共和党候选人。
这个问题并不局限于美国。这个聊天机器人还分享了有关瑞士和德国选举的不准确信息，包括错误的投票数字、选举日期，以及捏造关于候选人的争议。这种错误信息不是随机发生的，而是聊天机器人编程或数据源的系统性问题。
也许最令人担忧的是人工智能对选举错误信息产生幻觉的倾向。在人工智能术语中，幻觉是指聊天机器人为了回答人类的问题而制造虚假信息。在一个著名的幻觉案例中，一名律师使用ChatGPT起草了一份法律摘要，其中充满了对不存在的判例法的引用，因此面临罚款和处罚。
解释了人工智能的幻觉如何影响政治:
由于这些发现，微软打击虚假信息的努力，特别是在高调的2024年大选之前，受到了质疑。尽管微软声称在10月份被告知这些问题后已经做出了一些改进，但研究人员和研究人员仍然能够使用相同的提示重复许多有问题的回复。
研究人员指出，安全措施的应用参差不齐，在许多情况下，聊天机器人拒绝回答或转移问题。这种不一致的行为使它成为寻求准确信息的选民的不可靠来源。此外，聊天机器人的事实准确性在不同语言之间差异很大，英语最准确，德语和法语较差，这引发了人们对非英语市场内容审核和保障措施的担忧。
点击这里阅读更多内容。
