00后高盛金融男,欲奸杀前女友,被ChatGPT上报后被捕

浏览22次 点赞0次 收藏0次

一名 25 岁的前高盛分析师在 ChatGPT 上写下了强奸和谋杀前女友的详细计划。

OpenAI 把他举报给了 FBI。

8 月 13 日,Darren Zhou 在佛罗里达棕榈滩县法庭认罪,被判 8 年缓刑。


https://www.linkedin.com/in/darrenszhou/

这可能是公开报道中,AI 聊天平台主动举报用户、最终导致刑事定罪的最清晰案例。


https://www.palmbeachpost.com/story/news/crime/2026/08/14/openai-reported-florida-man-darren-zhou-chatgpt-murder-messages-fbi/91285875007/

用户把 AI 当树洞,但这一次,树洞报了警。

「如果我得不到她,谁也别想」

今年 3 月,Zhou 打开 ChatGPT,开始倾诉一段六个月恋情的终结。

他讲述前女友的爱好、常去的地方、身边的男性朋友,以及自己想复合的念头。

对话很快偏离了失恋絮语的轨道。

Zhou 告诉 ChatGPT,他计划带着花在前女友健身房的停车场等她。

如果她拒绝,他会「拔出枪,杀了她,然后开枪自杀」。


后续对话中,他描述了持枪绑架、性侵、劫持的完整方案,声称已经买了 AR-15 式步枪、格洛克手枪和霰弹枪,并给前女友发了枪支、扎带和乳胶手套的照片。

他同时在现实中持续跟踪骚扰这位 21 岁的前女友,换号追踪、发送威胁短信,她屏蔽一个号码他就换一个。

她 21 岁生日那天收到的短信写着:「等不及今晚见到你了 ;) 等不及闻到你的味道。」

另一条消息只写了她正在的那家健身房的名字,别无他字。

但在对 ChatGPT 的一条消息里,Zhou 写道:「她还没收到那些威胁。」

他在 AI 面前展现的坦诚,超过了他对任何活人的坦诚。

到 5 月,他的威胁目标已经扩展到前女友的家人。

审阅聊天记录的警员做出判断:这些内容不再是「模糊的情绪宣泄」,而是一种反复排练与计划的模式。

OpenAI 的安全系统检测到威胁模式后,将对话转入人工审查,随即向 FBI 举报。

联邦探员将约两个月的聊天记录移交棕榈滩县警方。

警方对前女友做了福利检查,获得了大量威胁短信截图作为佐证。

Zhou 于 5 月被捕,6 月被以加重跟踪、书面死亡威胁等三项重罪起诉,最高刑期 25 年。

法庭记录保存了 Zhou 发给 ChatGPT 的全部消息,但有一处空白:ChatGPT 的回复不在其中。

8 月 13 日,Zhou 与检方达成认罪协议,对三项指控全部认罪,被判 8 年缓刑,无重罪定罪记录。

法官 Scott Suskauer 说,他接受这一协议的唯一原因是受害者本人同意。


宣判前,他对 Zhou 说:「没有人应该承受你对这位女性施加的那种行为。」

辩护律师 Steven Bell 把 Zhou 的行为归结为「一次非常严重的心理健康发作」。

这个说法后面还会再出现。

AI 平台的「安全阀」

Zhou 案值得单独拎出来讨论,是因为整条证据链的起点是 AI 平台的主动举报。

2025 年 8 月,OpenAI 在一篇博客中首次公开了这套机制:

系统检测到用户可能计划伤害他人时,对话会被转入人工审查;

如果审查团队认定存在「对他人严重人身伤害的迫在眉睫的威胁」,公司可以报警。

什么算「迫在眉睫」,判断标准完全在 OpenAI 内部。


https://openai.com/zh-Hans-CN/index/helping-people-when-they-need-it-most/

一个月前,奥特曼刚在播客里说过,人们把「生活中最私密的事」倾诉给 ChatGPT,AI 对话应该享有和看医生、找律师一样的法律保密特权。

一个月后,他的公司公开承认正在扫描用户对话并在必要时报警。

用户以为自己在和 AI「私聊」,但平台保留了审查和举报的权限。

ChatGPT 提供了一种前所未有的私密感:它不会评判你,不会打断你,不会露出惊恐的表情。

这种私密感是真实的体验,但不是法律事实。

OpenAI 自己也划了一条看起来清晰的界限:

威胁伤害他人的对话可能被转交执法部门;

表达自我伤害意图的对话则不会。

伤害他人,报警;伤害自己,保密。

一个先例的重量

OpenAI 选择举报 Zhou 的时候,距离 Tumbler Ridge 枪击案过去不到三个月。

2025 年 6 月,OpenAI 的审查系统标记了一名加拿大用户的账户,原因是「枪支暴力活动和计划」。

约十几名员工参与了内部讨论,最终决定封禁账户但不向执法部门报告,理由是对话内容不构成「迫在眉睫的可信威胁」。

2026 年 2 月,该用户在不列颠哥伦比亚省 Tumbler Ridge 的一所中学开枪,造成 8 人死亡、27 人受伤。


https://www.bbc.com/news/articles/c99l03k0ly4o

受害者家属起诉 OpenAI 疏忽,省总检察长宣布将追究其法律责任。

Tumbler Ridge 和 Zhou 案是同一枚硬币的两面。

前者标记了风险但没报,后者标记了并且报了。

前者造成了八人死亡,后者可能阻止了一场暴力犯罪。

这两个案例放在一起,勾勒出 AI 平台当下面对的困境:报还是不报,完全取决于公司内部一小群人的判断。

ChatGPT 回复的缺席也值得追问。

Zhou 在对 AI 倾诉暴力计划时,ChatGPT 是尝试了劝阻,还是被动地接收了他的每一句话,外界不得而知。

在 Tumbler Ridge 案的诉讼中,原告同样指控 ChatGPT 没有挑战枪手的言论,也没有引导她寻求帮助。

AI 在对话中扮演了什么角色,是这类案件中反复出现、却始终未被回答的问题。

还有辩护律师留下的那句「心理健康发作」。

当越来越多人在与 AI 的对话中暴露极端想法,「我只是在和机器说话,不代表真实意图」可能会成为辩护方的常见策略。

Zhou 案的认罪协议绕过了这个问题的正面检验,但它迟早会在某个法庭上被正式审理。

Zhou 的案子不会是最后一个。

什么该报、什么不该报、谁来监督平台的判断、AI 的回复是否应当作为证据的一部分,目前没有一个国家的法律给出了明确答案。

OpenAI 在 Tumbler Ridge 选择不报,在 Zhou 案选择报了。

两次选择,两种结果,两场诉讼,两个悲剧。

这条底线该画在哪里,不应该由一家公司的内部团队独自决定。

参考资料:

https://www.palmbeachpost.com/story/news/crime/2026/08/14/openai-reported-florida-man-darren-zhou-chatgpt-murder-messages-fbi/91285875007/

编辑:马可

声明:本文转载自新智元,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯