资讯
一个男人把杀人计划告诉ChatGPT,AI却报警了:机器开始有良知了吗?
📋总体概括
美国一起案件引发关注:25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉,对话从情感话题逐步升级为绑架、性侵、杀害前女友及自杀的明确计划,OpenAI安全系统识别威胁后主动报警,警方据以及时介入。这是AI公司安全机制从被动过滤走向主动报告执法的现实案例,直接冲击了大众把聊天机器人当作私密『树洞』的认知,也把AI的保密边界、安全责任与用户心理依赖问题推到台前。
⚡关键信息
- ▸25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉,对话数周内从情感话题升级为杀人及自杀计划
- ▸OpenAI安全系统识别出明确暴力威胁后报警,成为AI主动触发执法介入的标志性案例
- ▸案件依托法庭记录与美媒报道,对话内容被法庭保存,具备可核实的司法证据基础
- ▸事件打破用户对AI『保密树洞』的想象,暴露AI倾诉场景下的隐私与安全边界模糊问题
🔥犀利点评
别急着欢呼机器有了良知——报警的不是AI的『良心』,而是OpenAI预设的安全规则和风控流程,本质是产品合规设计,与道德觉醒无关。真正值得警惕的是另一面:用户把AI当树洞的比例越来越高,而树洞是带监控的。这一案证明了安全机制有效,但同样意味着你向AI倾诉的一切都可能成为呈堂证供。便利与隐私的这笔账,大多数人还没开始算。
📰 相关资讯(与本文相关的其他资讯)
公司New Seahawks Owner Vinod Khosla Teams Up With 12 Limited Partners to Complete $9.6B Sale🔥9.0
EssentiallySports·2026/9/4
公司Lakers Ownership Takes Surprising Twist With Bob Iger and Josh Kushner Amid Jeanie Buss Drama🔥9.0
EssentiallySports·2026/9/4
公司Clippers Fire Back at Adam Silver After NBA Hands Steve Ballmer, Kawhi Leonard Severe Punishment For Salary Cap Circumvention🔥9.0
EssentiallySports·2026/9/3
趣闻NBA Docks Clippers’ Draft Picks, Suspends Ballmer in Cap Caper🔥9.0
Sportico·2026/9/2
本文由本站自动聚合,以下为原始来源:前往 虎嗅文章 阅读全文 →