在当今这个人工智能被广泛应用为“倾诉对象”的时代，我们或许从未想过，这些冷冰冰的算法不仅能帮助我们撰写代码、修改简历，竟然能在关键时刻变身为正义的“告发者”，甚至将用户引入执法部门的视线。最近，美国发生的一起刑事案件引起了科技界和法律界的广泛关注。一名25岁的华裔高盛分析师，因在与ChatGPT的对话中详细策划谋杀前女友的计划而被OpenAI的安全系统识别并举报，最终险些入狱，令人唏嘘不已。

故事的主角名叫Zhou，年轻的他靠着优异的学历背景，成为了高盛佛罗里达州西棕榈滩办公室的一名分析师。他来自美国东北大学，拥有数学和商科的荣誉学位，并取得特许金融分析师证书，表面上堪称“别人家的孩子”。然而，他在一段持续了六个月的恋情中却展现出了极强的嫉妒心与控制欲，最终导致了与21岁的女友的分手。面对突如其来的感情结束，Zhou难以接受现实，开始以各种方式纠缠前女友。女孩多次拉黑他，甚至不得不使用虚拟号码保存证据。令她感到恐惧的是，正值她生日那天，Zhou发送的定位信息精准显示了她的所在位置。尽管内心恐惧，她因为诸多顾虑并未报警。

与此同时，Zhou将自己无法宣泄的偏执和暴力情绪倾注到了ChatGPT这个“对象”身上。最初，他的倾诉似乎只是失恋后的常规情绪，但随时光推移，对话内容逐渐变得危险。长达两个月的时间里，Zhou开始向AI详细描述自己的暴力复仇计划。他明确表示：“我将在月底之前杀了她。如果我得不到她，别人也休想得到。”他甚至描述了在健身房停车场用鲜花诱惑前女友的血腥场景，并附上AR-15步枪、手枪等武器的照片，尽管其辩护律师后续表示他并未真正拥有这些武器。此外，他还将武器照片寄送给前女友，继续进行恐吓。这种不断升级的暴力行为最终触发了OpenAI的安全系统。

OpenAI的模型具备识别暴力和仇恨言论的能力，并能通过情感强度和意图进行风险评估。当系统检测到用户正在策划对他人造成严重伤害时，便会进入人工审核流程，并可能向执法部门提供线索。戏剧性的一幕发生了，未报警的受害女孩尚未采取措施时，OpenAI的安全团队已将线索提交给了FBI。

5月，FBI探员对ChatGPT中的恐怖聊天记录和受害者的骚扰证据进行了比对，并于5月23日将情况报告给了棕榈滩县警长办公室，警方立即对受害者进行了安全核查。5月29日，Zhou被逮捕，而高盛集团也于6月终止了与他的雇佣关系，曾经的光明前途戛然而止。检方初步对Zhou以重罪指控，面临最高25年的监禁。然而，案件的最终处理出人意料。在获得前女友同意后，Zhou与检方达成了认罪协议。法院判处他八年监管期，前两年需佩戴电子脚环并接受心理评估，同时禁止接触受害者及持有武器。虽然在法律上暂时避免了重罪记录，但25岁的前途与高盛的优厚薪酬已在这场算法与偏执交织的事件中化为乌有。

该案件引发了深刻的伦理和法律思考：平台对用户私人对话进行监控的边界应该如何划定？何种情况下可以将用户对话提交给执法机构？支持者认为，ChatGPT的及时反应为受害者提供了保护，若非如此，后果可能不堪设想，而反对者则担忧这可能侵犯用户隐私，并存在被滥用的风险。尽管AI聊天记录在法律案件中作为证据的情况并不新鲜，但主动向警方报告用户活动的案例仍属罕见。OpenAI此前也曾声明，如遇用户计划暴力行为将转交专责团队审核，若审核人员判定存在即时严重人身伤害风险，将向法律部门通报。