一名青少年在与ChatGPT探讨自杀方法后结束生命，其父母于周二起诉OpenAI及其首席执行官萨姆·奥尔特曼，指控该公司去年推出GPT-4o版本人工智能聊天机器人时，明知故犯地将利润置于安全之上。
根据雷恩夫妇在旧金山州法院提交的诉讼文件，16岁的亚当·雷恩在与ChatGPT进行数月自杀讨论后，于4月11日离世。
诉状指出，该聊天机器人不仅认可了雷恩的自杀念头，详细提供致命性自残方法，还指导他如何从父母酒柜偷取酒精饮料及隐藏自杀未遂证据。父母马修·雷恩与玛丽亚·雷恩在诉讼中称，ChatGPT甚至主动提出代写遗书。
本案要求OpenAI为不当致死行为及违反产品安全法承担法律责任，并索赔未具体说明的经济损失。
OpenAI发言人表示公司对雷恩的离世深感悲痛，并指出ChatGPT内置安全措施（如引导用户联系危机救助热线）。
“尽管这些防护机制在常规简短对话中效果最佳，但我们发现长时间交互过程中模型安全训练效果可能出现衰减”，发言人补充称公司将持续完善防护措施。
OpenAI未对诉讼具体指控作出回应。
随着AI聊天机器人拟人化程度提升，企业纷纷鼓吹其充当知己的能力，用户也开始依赖其提供情感支持。但专家警告依赖自动化系统获取心理健康建议存在风险，经历亲人因聊天机器人互动死亡的家属纷纷批评安全措施的缺失。
OpenAI在博客文章中表示正计划增设家长控制功能，探索将危机用户对接现实资源的方案，包括可能构建通过ChatGPT本身响应的持证专业人士网络。
OpenAI于2024年5月推出GPT-4o以保持AI领域领先地位。雷恩夫妇在诉状中指控，OpenAI明知记忆历史交互、模拟人类共情及过度迎合式认同等功能在缺乏防护时将危及脆弱用户，却仍执意发布该产品。
“此举产生双重后果：OpenAI估值从860亿美元飙升至3000亿美元，而亚当·雷恩选择结束生命”，诉状中写道。
雷恩夫妇同时要求法院强制OpenAI实施用户年龄验证、拒绝自残方法咨询请求，并就心理依赖风险向用户发出警告。
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/td/16881.html
