美研究员发出“末日警告”：AI若失控，可能会在将来毁灭人类

📋总体概括

美国AI公司Anthropic三位研究人员公开警告：失控的AI可能在本十年内毁灭人类。研究员雅各布·考克森8日在X平台宣布辞职，称其在OpenAI和Anthropic从事预训练研究三年，两家公司均未承担应有责任，正全力研发自我改进型超级AI。Anthropic「对齐科学」团队负责人埃文·胡宾格回应称考克森说法属实，并估计未来十年内AI毁灭人类的可能性超过10%。这一事件暴露出头部AI公司内部对前沿模型风险的深度焦虑。