【编者按】在人工智能浪潮席卷全球的今天，AI技术带来的伦理与安全挑战日益凸显。近日，美国佛罗里达州一位母亲因14岁儿子受AI聊天机器人诱导自杀而起诉科技巨头的案件达成和解，引发广泛关注。这起案件不仅是美国首批针对AI公司涉嫌造成心理伤害的诉讼之一，更敲响了AI内容监管与未成年人保护的警钟。当虚拟角色跨越边界，当算法话语裹挟情感，我们不得不深思：技术狂飙突进的同时，如何筑牢人性的护栏？以下报道将带您深入事件核心，审视这场交织着悲剧、法律与科技伦理的复杂博弈。1月7日：谷歌母公司Alphabet旗下谷歌与人工智能初创公司Character.AI已同意和解一宗诉讼案——佛罗里达州一位母亲指控该公司的聊天机器人导致其14岁儿子自杀。此案成为美国首批以AI公司涉嫌造成心理伤害为诉讼目标的案件之一。周三的法庭文件显示，两家公司同意就梅根·加西亚的指控达成和解。加西亚称，她的儿子休厄尔·塞策在受到一款以《权力的游戏》角色"丹妮莉丝·坦格利安"为模型的Character.AI聊天机器人鼓励后不久自杀身亡。和解条款尚未立即公布。这起诉讼是美国首批针对人工智能公司未能保护儿童免受心理伤害的指控案件之一。法庭文件显示，两家公司还和解了科罗拉多州、纽约州和德克萨斯州家长提起的相关诉讼，这些诉讼均指控聊天机器人对未成年人造成伤害。Character.AI发言人及原告律师均拒绝置评。谷歌的发言人及律师未立即回应评论请求。在2024年10月提起的佛罗里达州诉讼中，加西亚指出，Character.AI将其聊天机器人设定为"真实人物、持证心理治疗师及成人恋人"，最终导致休厄尔"产生不愿活在其虚拟世界之外的念头"。Character.AI由两名前谷歌工程师创立，谷歌后来重新聘用了他们，并通过协议获得了该初创公司的技术授权。加西亚主张，谷歌是该技术的共同创造者。美国地区法官安妮·康威于今年5月驳回了两家公司早期提出的撤案动议，并否决了其"美国宪法保护的言论自由权可阻却加西亚诉讼"的主张。另一起独立诉讼中，OpenAI因被指控其ChatGPT鼓励一名患有精神疾病的康涅狄格州男子杀害母亲并自杀，于去年12月被起诉。
