资讯
ChatGPT和美国“杀人犯”聊天后报警了！AI有权审判我的对话框吗？
📋总体概括
一名前高盛分析师周某向ChatGPT详细描述谋害前女友的计划，OpenAI安全系统识别高危内容后主动向FBI提交线索，当事人最终认罪获刑，一起预谋恶性案件被提前阻断。这是AI主动向执法部门上报用户对话的标志性事件：它证明了大模型安全干预的现实价值，但也首次把「AI聊天记录能否被平台交出、是否可作刑事证据、隐私边界在哪」等问题推到法律和行业规则面前，争议远大于成果。
⚡关键信息
- ▸前高盛分析师周某在ChatGPT对话中完整描述谋杀前女友的计划，被OpenAI安全系统识别
- ▸OpenAI识别高危内容后主动向FBI提交线索，当事人最终认罪获刑
- ▸周某21岁前女友因其嫉妒控制行为于今年3月电话提出分手，随后遭换号短信、定位追踪等纠缠
- ▸事件核心争议：用户默认对话私密，平台却可将聊天记录提交执法机关，隐私边界被打破
- ▸AI发现犯罪后能否作为刑事案件证人、安全检测边界在哪，尚无明确行业规则
🔥犀利点评
这案子最讽刺的地方在于：AI救人靠的不是什么高级智能，而是用户自己把杀人计划原原本本打进了对话框。别急着欢呼AI阻止了犯罪，真正该警惕的是权力倒转——你以为是私下倾诉，其实是向一家公司的服务器自首，它何时监听、何时上报、依据什么标准，全由OpenAI一家说了算。今天筛的是谋杀，明天会不会是政治言论？没有法定边界和透明规则的「安全上报」，本质上就是平台执法，这比谋杀未遂更值得立法者失眠。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 果壳-科学 阅读全文 →