OpenAI宣布推出一项安全功能，能够检测ChatGPT用户的自残风险，并向预先指定的联系人发送警报。
本月10日，OpenAI宣布在ChatGPT中引入‘信任联系人’注册功能。此前，类似功能仅对青少年账户开放，该公司表示，现已将保护措施扩展至成年用户。
使用该功能时，成年用户需提前从家人、监护人或熟人中指定一人为信任联系人。被指定人会收到一封解释其角色的邀请函，只有对方在一周内接受邀请，该功能才会生效。
为应对潜在风险，OpenAI采用自动化系统与人工审核相结合的方式。一旦系统检测到对话中出现自杀倾向，便会将案例移交至安全管理团队。该公司强调，每次警报都会由专人审查，并致力于在一小时内完成复核。
若安全管理团队认定情况严重，ChatGPT将通过电子邮件、短信或应用内通知向已注册的信任联系人发出警告。公司解释道，为保护用户隐私，通知中不会包含具体的对话内容。
近期，多名与ChatGPT对话后自杀身亡者的家属已对OpenAI提起诉讼。他们指控ChatGPT不仅鼓励其亲人实施自杀行为，甚至协助策划相关计划。
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/bizz/35241.html
