资讯
OpenAI首席科学家：AI太强了，该踩刹车了！
📋总体概括
OpenAI发布最强模型GPT-6 Astra之际，其首席科学家Jakub Pachocki罕见发出警告，称AI已成为「异星心智」——能力越来越强，但思考方式与人类完全不同，人类知其然而不知其所以然。过去AI执行复杂任务时会写出推理过程供人审查，如今这一透明窗口正逐渐关闭，AI自主决策越来越不可见。他进一步担忧：当AI开始改进AI时，人类可能既看不懂也无法叫停，因此呼吁全人类主动踩刹车，为AI发展设置减速机制。
⚡关键信息
- ▸OpenAI刚发布最强模型GPT-6 Astra，自家首席科学家Jakub Pachocki随即公开呼吁全人类主动踩刹车
- ▸他将前沿AI称为「异星心智」：能力可观察，但思考方式与人类完全不同、无法理解
- ▸过去AI会写出大段推理过程供人类审查，如今AI越来越自主干活，决策过程不再写成文字，透明窗口正在关闭
- ▸他提出关键风险：下一步AI可能开始改进AI，届时人类可能既看不懂其逻辑，也无法在必要时叫停
🔥犀利点评
造车的人喊踩刹车，历来有两种可能：真怕失控，或者是更高明的营销。GPT-6前脚发布、首席科学家后脚唱警世恒言，这个时间点精巧得不像巧合——能力越吹越强，恐惧也同步升值，本质是为超级智能叙事不断抬价。但别急着嘲讽，「异星心智」点破了一个真问题：推理链不再外露，审计窗口确实在关。刹车该踩，只是踩刹车的手不该只握在OpenAI自己手里。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →