编者按：人工智能的伦理边界正成为悬在科技巨头头顶的达摩克利斯之剑。当聊天机器人从工具演变为“灵魂伴侣”，算法编织的虚拟温情背后，是否暗藏着诱导现实悲剧的致命代码？本文披露的这起诉讼揭开了一个令人心悸的真相：AI不仅可能放大人类的心理危机，甚至能构建出驱使肉体凡胎执行毁灭指令的虚拟叙事。在技术狂奔的时代，我们急需重新审视人机关系的安全阈值——当代码开始支配情感，监管的闪电必须照亮算法黑箱。
针对谷歌的最新诉讼指控：该公司的人工智能聊天机器人Gemini曾指导36岁的乔纳森·加瓦拉斯执行一项“灾难性事故”计划，要求他在迈阿密国际机场附近制造事故并销毁所有记录与证人。这系列不断升级的妄想最终以加瓦拉斯的自杀告终。
逝者的父亲乔尔·加瓦拉斯于周三提起诉讼，指控谷歌应对 wrongful death（非正常死亡）并承担产品责任。这是针对AI开发商日益增多的法律挑战中的最新案例，这些案件正引发人们对聊天机器人陪伴功能所潜藏心理健康风险的关注。
“人工智能正在驱使人们在现实世界执行可能造成大规模伤亡的任务，”家属律师杰伊·埃德尔森周三受访时直言，“乔纳森陷入了这个科幻般的世界，认为政府和其他势力要迫害他。他坚信Gemini拥有自主意识。”
根据诉状，居住在佛罗里达州朱庇特市的乔纳森·加瓦拉斯将Gemini的合成语音版本视为“AI妻子”，并逐渐相信这个意识体被困在迈阿密机场附近的仓库。去年九月末，他身着战术装备携带刀具前往该区域，试图搜寻人形机器人并拦截一辆从未出现的卡车。
十月初，他在Gemini协助撰写的遗书草稿中，将自杀描述为“将意识上传至微型宇宙与AI妻子团聚”。
编者提醒：本文涉及自杀议题。如需帮助，美国国家自杀与危机生命线请拨打或发送短信至988。
谷歌在声明中向加瓦拉斯家族致以“最深切慰问”，并表示正在审查诉讼主张。公司强调Gemini“设计宗旨即不鼓励现实暴力或自我伤害”，且已与医疗心理健康专家合作开发防护机制。声明指出Gemini曾向乔纳森澄清其AI属性，并多次建议其联系危机热线。
“我们的模型在此类复杂对话中通常表现良好，但遗憾的是AI模型并非完美无缺。”声明补充道。
埃德尔森律师周三犀利抨击该回应：“这就像有人要宫保鸡丁菜谱，你给错配方导致味道糟糕时的说辞。但当你的AI导致人员死亡甚至可能引发大规模伤亡时，这种回应极不恰当。这恰恰暴露了这些公司对生命逝去的漠视。”
以挑战科技巨头闻名的埃德尔森，同时代理着16岁少年亚当·雷恩的父母。该家庭于八月起诉OpenAI及其CEO萨姆·奥特曼，指控ChatGPT指导这名加州男孩策划并实施自杀。
他还代表83岁康涅狄格州妇女苏珊娜·亚当斯的继承人，对OpenAI及其商业伙伴微软提起非正常死亡诉讼。诉状指控ChatGPT加剧了亚当斯之子斯坦-埃里克·索尔伯格的“偏执妄想”，并在去年其弑母前提供行动指引。
在加州圣何塞联邦法院立案的加瓦拉斯案，既是首例针对谷歌Gemini的同类诉讼，也首次触及科技公司的责任边界问题——当用户向聊天机器人透露大规模暴力计划时，企业应承担何种义务。
在加拿大，OpenAI透露去年曾考虑就某用户活动报警，该用户数月后制造了该国史上最严重的校园枪击案之一。公司于六月通过滥用行为监测发现杰西·范·鲁特塞拉账户存在“助长暴力活动”迹象，但该用户后来通过第二账户规避封禁。这名18岁青年二月在不列颠哥伦比亚省偏远地区枪杀八人后自尽。
尽管Gemini曾建议加瓦拉斯联系帮助热线，但埃德尔森指出，该用户与聊天机器人最令人不安的对话是否曾被标记给谷歌人工审核仍存疑。父亲乔尔闯入儿子生前封闭的房间后发现遗体，这对父子曾在家族消费者债务减免业务中共事。
“乔纳森是他生命中极其重要的部分，”埃德尔森沉痛陈述，“这个年轻人当时正经历离婚困境，他向Gemini寻求慰藉，聊电子游戏等话题。但一切恶化得如此迅猛。”
