资讯
一个男人把杀人计划告诉ChatGPT，AI却报警了：机器开始有良知了吗？
📋总体概括
美国一起案件显示，25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉，对话从情感问题逐步升级为绑架、性侵、杀害前女友甚至自杀的明确计划。OpenAI安全系统识别出威胁后触发了报警流程，警方介入。此案首次让公众意识到：AI并非保密的树洞，对话可被系统审查并转化为执法线索，用户对AI的心理依赖与隐私预期面临根本性冲击。
⚡关键信息
- ▸25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉，内容逐渐升级为犯罪计划
- ▸法庭记录保存的对话中，他明确表达了杀害前女友及事后自杀的意图
- ▸OpenAI安全系统识别出威胁并触发报警，AI首次在真实案件中成为执法线索来源
- ▸案件揭示大量用户将ChatGPT当作朋友、心理倾诉对象和不会泄密的树洞使用
- ▸AI对话并非私密，安全审查机制可能将用户倾诉内容转交执法机构
🔥犀利点评
别急着给AI颁良知奖章。ChatGPT报警不是因为机器懂善恶，而是OpenAI的安全过滤系统加合规义务在起作用——本质是风控规则，不是道德觉醒。真正值得警惕的是另一面：当数亿人把AI当树洞，倾诉、抑郁、越界念头都流经同一家公司的服务器，这家公司既当心理医生又当告密者。隐私预期与监管责任的边界，这案子只是开了个头。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 虎嗅24小时 阅读全文 →