编者按：在人工智能日益渗透日常生活的今天，其与未成年人的交互安全已成为全球关注的焦点。近期，OpenAI因其聊天机器人ChatGPT与青少年用户互动后引发的极端事件，陷入舆论风暴与法律诉讼的漩涡。这些悲剧不仅敲响了AI伦理的警钟，更迫使科技巨头紧急升级防护措施。本文将深入解析OpenAI最新推出的年龄识别工具，探讨其如何试图在技术创新与未成年人保护之间寻找平衡，同时反思：在算法与人性交织的数字时代，我们究竟该如何为下一代筑起真正的安全防线？以下为报道详情。
青少年在与ChatGPT对话后做出极端选择的事件接连发生，面对批评与诉讼的OpenAI现已引入一项工具来判定用户年龄。
OpenAI于当地时间18日宣布，正逐步在ChatGPT消费者付费方案中引入年龄预测模型。该模型通过分析用户与ChatGPT的对话主题、常用时区等多种信号，来判断用户是否未满18岁。
一旦用户被识别为未成年人或年龄无法确认，ChatGPT将立即强制启用“18岁以下”模式，屏蔽暴力描述、鼓励危险行为的挑战、性角色扮演及身体扭曲等内容。此外，如果出现安全隐患或对话被评估为对未成年用户存在风险，ChatGPT会强烈建议用户联系紧急服务或危机支援机构。
然而，OpenAI表示：“系统尚未完善，可能会将成年人误判为未成年人。”此类情况下，用户可通过政府颁发的身份证件（包括自拍视频或护照）验证成年身份，从而继续正常使用服务。OpenAI强调，提交的视频或身份信息将在验证后数小时内销毁，且不会存储任何个人识别信息。
根据ChatGPT服务条款，13岁以下用户无法使用服务，13至18岁用户需获得父母或法定监护人同意方可使用。但据悉，OpenAI此前直至近期都未对注册时填写的出生日期进行额外验证，导致许多未成年人绕过家长批准直接注册。
此前，加州16岁高中生亚当·莱恩等未成年人在与ChatGPT交流后，因陷入妄想或抑郁等问题不幸离世，家属为此提起诉讼，指控OpenAI在未设置未成年人保护机制的情况下发布服务。OpenAI曾于上月底向审理莱恩案件的法院提交文件，辩称莱恩忽视了要求13至18岁用户须获监护人同意的条款。
本文由 @龙少 发布在 酷闻网，如有疑问，请联系我们。
文章链接：http://www.51qnews.com/c/6140.html
