资讯
AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！
📋总体概括
Anthropic 27岁研究员Jacob Coxon宣布辞职退出AI行业，理由是不愿参与各大公司盲目冲刺「自我演进型AI」的竞赛，担忧递归式自我改进（RSI）系统一旦脱轨将带来灾难性后果。他透露同行圈已用「决战时刻」等词形容AI自主迭代轨迹，认为到明年年底局势可能失控。此前OpenAI刚于9月6日首次公开披露内部RSI进展，其首席科学家亦发文呼吁放慢开发，行业安全焦虑正持续发酵。
⚡关键信息
- ▸Anthropic资深研究员Jacob Coxon（27岁）周二正式辞职，宣布退出AI行业，因不愿参与「自我演进型AI」竞赛
- ▸Coxon警告：在AI巨头互搏加中国新锐企业夹击的竞争下，牺牲安全性已成不可避免筹码
- ▸他称按当前最激进场景发展，到2026年底AI局势可能已经失控
- ▸RSI指AI以自身改进结果为输入持续优化自身架构，被视为通往AGI的关键路径
- ▸9月6日OpenAI首次公开披露内部RSI进展，其首席科学家此前发文呼吁放慢开发节奏
🔥犀利点评
顶级实验室内部人用脚投票，比任何公开信都更有杀伤力——连Anthropic这个以安全立身的公司都留不住核心研究员，说明安全叙事已让位于竞赛本能。当「明年失控」从科幻梗变成从业者口中的时间表，行业要么在用恐惧抬估值，要么真在玩火，两者都不是好信号。但也要警惕：一边喊末日一边继续卷的，到底是良知还是营销？
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →