资讯

AI面临失控?OpenAI首席科学家:AI自我改进"为时不远",呼吁行业主动减速

华尔街见闻·2026/9/7 19:35:42🔗 原文

📋总体概括

OpenAI首席科学家Jakub Pachocki公开发文警告,称AI模型距离实现无需人类干预的「递归自我改进」已为时不远,呼吁各大AI实验室在统一安全标准建立前自愿放缓研发节奏。然而与警告形成鲜明对照的是,黄仁勋在OpenAI发布新模型后宣称「AGI已经到来」,投资者正将数亿美元押注AI自我改进技术,OpenAI自身也宣称将在不到两年内构建自动化AI研究员。行业核心人物的减速呼吁与资本市场的加速押注并行,暴露出AI竞赛中安全与利益的深层撕裂。

关键信息

  • OpenAI首席科学家Pachocki警告AI「递归自我改进」为时不远,届时后果难以预料
  • 他呼吁行业在共同安全标准确立前自愿放缓研发,并引导AI与人类利益对齐
  • 黄仁勋在OpenAI发布新模型后宣称「AGI已经到来」,市场情绪持续亢奋
  • 投资者正向AI自我改进技术投入数亿美元,OpenAI计划两年内打造自动化AI研究员
  • Anthropic的Amodei警告AI或取代多达一半初级岗位,行业内部警示并非孤例

🔥犀利点评

最讽刺的莫过于此:说「请减速」的和宣布「两年造出自动化AI研究员」的,是同一家公司的两张嘴。Pachocki的警告与其说是安全自觉,不如说是风险免责声明——口头呼吁自愿减速,脚下油门一秒没松,因为谁先停谁就输,这是囚徒困境的标准剧本。「自愿减速」这四个字在商业竞争里从来就是个温柔的谎言,真正的约束只会来自监管或事故,而不是实验室的良心发现。

本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文