资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
Anthropic研究员Jacob Coxon辞职并公开指责Anthropic与OpenAI在竞相研发递归自我改进的超级智能，称业内开发者真心相信2030年前AI可能毁灭人类，其帖子浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger随后公开附和，称未来十年AI毁灭人类的概率超过10%，且目前尚无解决超级智能对齐问题的方案。此番言论在社交媒体引发对AI失控风险的广泛担忧，将行业内部的安全争议推向公众视野。
⚡关键信息
- ▸研究员Jacob Coxon从Anthropic辞职，指责其与OpenAI「拿我们的生命做赌注」，竞相研发自我提升的超级智能
- ▸Coxon称开发者真心相信2030年前AI可能毁灭人类，帖子浏览量超7000万次
- ▸担忧核心是递归式自我改进（RSI），即AI在无人干预下设计后续版本，目前尚未实现
- ▸Anthropic对齐科学负责人Hubinger称未来十年AI毁灭人类概率超过10%，对齐问题尚无解决方案
🔥犀利点评
一边喊「AI可能毁灭人类」，一边继续加码研发，这本身就是最诚实的行业写照——安全叙事不是刹车，而是融资和抢人的筹码。Hubinger的10%毁灭概率说出口却仍不离职不罢工，说明这类警告更像道德豁免：先声明风险，出了事可以免责。真正该问的不是AI多可怕，而是为什么警告者都还留在牌桌上。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →