资讯
‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
📋总体概括
Anthropic研究员Jacob Coxon因担忧AI存在性风险宣布辞职，公开警告研发自我改进型AI相当于「拿我们的生命赌博」，并呼吁各前沿实验室之间达成节奏协议，放慢乃至暂停自我改进能力的开发。这是Anthropic内部安全派人员公开出走并批评自身雇主的罕见案例，凸显头部AI公司内部对开发速度与安全边界的分歧正在公开化。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon因AI灭绝性风险担忧宣布辞职
- ▸他警告自我改进型AI是在「拿我们的生命赌博」
- ▸他呼吁各AI实验室之间建立节奏协议，协调放慢开发速度
- ▸此次出走发生在以安全为卖点的Anthropic内部，象征意义强烈
- ▸事件反映前沿实验室内部安全派与开发加速派的矛盾公开化
🔥犀利点评
最讽刺的剧本莫过于此：一家把「安全」写进名字和融资故事里的公司，其安全研究员选择用辞职来发声。Coxon要的其实不复杂——实验室间停一停的节奏协议——但连这种最低限度的自我约束，在竞赛逻辑下都成了奢望。当内部人都用脚投票，Anthropic的安全叙事还剩多少可信度？安全不在公关稿里，在开发节奏里。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →