OpenAI 新董事严厉警告：AI 失控将是灾难性的，大多数人可能丧命

📋总体概括

OpenAI于9月10日宣布保罗·克里斯蒂亚诺加入其基金会董事会及安全与保障委员会。他曾负责OpenAI对齐研究，后任美国标准与技术研究院AI安全负责人。克里斯蒂亚诺警告称AI失控风险「如今已十分严峻」，若未在强对齐机制下构建超级智能，人类将永久失去控制，多数人可能丧命，并呼吁国际协调以降低风险。他的加入标志着OpenAI在被质疑偏离安全初衷后，重新在治理层面对齐议题加码。