伦敦：剑桥大学研究人员在12月30日发表的一篇论文中警告称，在一个被称为“意图经济”的新商业领域，会话式人工智能（AI）工具可能很快就会“暗中影响”用户的决策。
该研究认为，在不久的将来，“数字意向信号”的潜在“利润丰厚但令人不安”的市场可能会影响从购买电影票到为政治候选人投票的一切。
它补充说，我们对聊天机器人、数字导师和其他所谓的“拟人化”人工智能代理的日益熟悉，正在帮助实现这一系列新的“说服性技术”。
该论文的两位合著者指出，人工智能将把对我们上网习惯的了解与不断增强的了解用户、预测用户需求的能力结合起来，建立“新的信任和理解水平”。
剑桥大学Leverhulme未来智能中心（LCFI）的两人在《哈佛数据科学评论》（Harvard Data Science Review）上发表的论文中指出，如果不加以控制，这可能会导致“工业规模的社会操纵”。
它描述了这个新兴领域——被称为“意图经济”——将如何描述用户的注意力和沟通风格，并将它们与他们做出的行为模式和选择联系起来。
“人工智能工具已经被开发出来，用于引出、推断、收集、记录、理解、预测，并最终操纵和商品化人类的计划和目的，”合著者雅库布·乔杜里说。
根据这项研究，新的人工智能将依靠所谓的大型语言模型（Large Language Models，简称llm）来针对用户的节奏、政治、词汇、年龄、性别、上网历史，甚至是对奉承和讨好的偏好。
这将与其他新兴的人工智能技术联系在一起，这些技术试图实现一个特定的目标，比如出售一次电影院之旅，或者将对话引向特定的平台、广告商、企业甚至政治组织。
合著者Jonnie Penn警告说：“除非受到监管，否则意向经济将把你的动机视为新的货币。”
“对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热，”他补充说。
“在我们成为其意想不到的后果的受害者之前，我们应该开始考虑这样一个市场对人类愿望可能产生的影响，包括自由公正的选举、新闻自由和公平的市场竞争。”
佩恩指出，公众对这一问题的认识是“确保我们不走上错误道路的关键”。ta charset="UTF-8" /> -法新社
