资讯
OpenAI 新董事严厉警告：AI 失控将是灾难性的，大多数人可能丧命
📋总体概括
OpenAI 于9月10日宣布由保罗·克里斯蒂亚诺加入其基金会董事会及安全与保障委员会。他曾在OpenAI负责对齐研究，后出任美国国家标准与技术研究院下属AI标准与创新中心安全负责人。加入董事会后他公开警告：若未能在强有力对齐机制下构建超级智能，人类将永久失去对AI的控制，届时大多数人可能丧命，并呼吁国内外协调行动以对齐人类利益、将风险降至可接受水平。
⚡关键信息
- ▸OpenAI宣布保罗·克里斯蒂亚诺加入基金会董事会，并进入董事会安全与保障委员会
- ▸克里斯蒂亚诺曾负责OpenAI对齐研究，后任美国AI标准与创新中心安全负责人
- ▸他在X平台称失去AI系统控制的风险「如今已十分严峻」，需加大投入使其与人类利益对齐
- ▸他警告若对齐失败，人类将永久失去对超级智能的控制，大多数人可能丧命
- ▸他呼吁在国内和国际层面开展协调，确保全球步调一致降低风险
🔥犀利点评
让最懂对齐的人进董事会，OpenAI这是在给监管和公众上保险，还是先堵住质疑者最狠的那张嘴？一个人一边拿着OpenAI的董事席位一边说「大多数人可能丧命」，这话既是对外警告，也是对自己处境的坦白——他在内部显然赢不了。真正的看点在于：安全负责人入职董事会后，OpenAI的激进商业化会不会有任何一克真实的减速，还是安全继续沦为公关辞令。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →