OpenAI 为 ChatGPT 推出“可信联系人”，应对 AI 对话中的自残风险

5 月 8 日消息，据科技媒体 TechCrunch 昨天报道，OpenAI 现已为 ChatGPT 推出“可信联系人”新功能，当用户对话中出现自残相关内容时，可鼓励成年用户主动联系他人，并向联系人自动发送提醒，让他们多一分沟通。

在此援引 TechCrunch，此前 OpenAI 曾面临多起诉讼，原告指控 ChatGPT 鼓励他们的亲人自杀，甚至协助其制定自杀计划。

目前，OpenAI 采用自动审核与人工复核两种方式处理潜在自残、自杀事件。当对话触发提醒系统后，信息会被转交给人工安全团队。官方表示，每当收到此类通知时都会人工审核，力求一小时内完成相关工作。

如果公司内部判定用户存在严重自残、自杀风险，ChatGPT 则会向可信联系人发送电子邮件、短信或推送通知提醒。这些信息设计简短，鼓励联系人与当事人进行沟通。为保障用户隐私，通知中不会包含具体对话细节。