资讯

一个男人把杀人计划告诉ChatGPT,AI却报警了:机器开始有良知了吗?

虎嗅文章·2026/9/8 01:13:54🔗 原文

📋总体概括

美国一起案件引发关注:25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉,对话从情感话题逐步升级为绑架、性侵、杀害前女友及自杀的明确计划,OpenAI安全系统识别威胁后主动报警,警方据以及时介入。这是AI公司安全机制从被动过滤走向主动报告执法的现实案例,直接冲击了大众把聊天机器人当作私密『树洞』的认知,也把AI的保密边界、安全责任与用户心理依赖问题推到台前。

关键信息

  • 25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉,对话数周内从情感话题升级为杀人及自杀计划
  • OpenAI安全系统识别出明确暴力威胁后报警,成为AI主动触发执法介入的标志性案例
  • 案件依托法庭记录与美媒报道,对话内容被法庭保存,具备可核实的司法证据基础
  • 事件打破用户对AI『保密树洞』的想象,暴露AI倾诉场景下的隐私与安全边界模糊问题

🔥犀利点评

别急着欢呼机器有了良知——报警的不是AI的『良心』,而是OpenAI预设的安全规则和风控流程,本质是产品合规设计,与道德觉醒无关。真正值得警惕的是另一面:用户把AI当树洞的比例越来越高,而树洞是带监控的。这一案证明了安全机制有效,但同样意味着你向AI倾诉的一切都可能成为呈堂证供。便利与隐私的这笔账,大多数人还没开始算。

本文由本站自动聚合,以下为原始来源:前往 虎嗅文章 阅读全文