资讯
Anthropic研究员因“失控”AI担忧辞职，安全隐忧蔓延顶级实验室
📋总体概括
Anthropic研究员Jacob Coxon以担忧人类失去AI控制权为由辞职，成为该公司首批因安全顾虑离岗的员工，他警告最快明年底局面可能失控。同日，OpenAI首席科学家Jakub Pachocki发布长文呼吁全球协调减速并寻求政府介入，OpenAI还宣布AI自动化研究员正式入职并公开递归自我改进里程碑数据。安全派研究员出走与顶级实验室主动示警叠加，凸显行业竞赛速度与安全底线之间的冲突正公开化，AI监管压力可能显著升温。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon因认为AI竞赛将致系统失控而离职，警告最快明年底局面可能失控
- ▸Coxon从OpenAI转投以安全著称的Anthropic后仍选择离开，称缺乏政府干预下没有公司能负责任地开发AGI
- ▸OpenAI首席科学家Pachocki发文《An Alien Mind》，呼吁全球协调推动行业减速并寻求政府介入
- ▸OpenAI宣布AI自动化研究员正式入职，公开递归自我改进（RSI）关键里程碑数据
- ▸Coxon透露Anthropic内部设Slack频道讨论模型能力，批评人类命运讨论仅发生在少数工程师的电脑上
🔥犀利点评
最讽刺的一幕出现了：连以安全为招牌的Anthropic都留不住安全派研究员，说明在竞赛逻辑面前，安全文化不过是一件市场营销外衣。更值得玩味的是OpenAI同日的操作——一边首席科学家高喊减速求监管，一边公司官宣AI自动化研究员入职并晒RSI里程碑。嘴上刹车、脚踩油门，这套组合拳本质是抢跑后的风险公关。当「失控」的时间表被从业者自己标注到明年底，监管还停留在听证会层面，才是真正的危险信号。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →