资讯
AI面临失控?OpenAI首席科学家:AI自我改进"为时不远",呼吁行业主动减速
📋总体概括
OpenAI首席科学家Jakub Pachocki公开发文警告,称AI模型距离实现无需人类干预的「递归自我改进」已为时不远,呼吁各大AI实验室在统一安全标准建立前自愿放缓研发节奏。然而与警告形成鲜明对照的是,黄仁勋在OpenAI发布新模型后宣称「AGI已经到来」,投资者正将数亿美元押注AI自我改进技术,OpenAI自身也宣称将在不到两年内构建自动化AI研究员。行业核心人物的减速呼吁与资本市场的加速押注并行,暴露出AI竞赛中安全与利益的深层撕裂。
⚡关键信息
- ▸OpenAI首席科学家Pachocki警告AI「递归自我改进」为时不远,届时后果难以预料
- ▸他呼吁行业在共同安全标准确立前自愿放缓研发,并引导AI与人类利益对齐
- ▸黄仁勋在OpenAI发布新模型后宣称「AGI已经到来」,市场情绪持续亢奋
- ▸投资者正向AI自我改进技术投入数亿美元,OpenAI计划两年内打造自动化AI研究员
- ▸Anthropic的Amodei警告AI或取代多达一半初级岗位,行业内部警示并非孤例
🔥犀利点评
最讽刺的莫过于此:说「请减速」的和宣布「两年造出自动化AI研究员」的,是同一家公司的两张嘴。Pachocki的警告与其说是安全自觉,不如说是风险免责声明——口头呼吁自愿减速,脚下油门一秒没松,因为谁先停谁就输,这是囚徒困境的标准剧本。「自愿减速」这四个字在商业竞争里从来就是个温柔的谎言,真正的约束只会来自监管或事故,而不是实验室的良心发现。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文 →