资讯
‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
📋总体概括
Anthropic研究员Jacob Coxon因担忧AI灭绝风险宣布辞职，并公开警告自我改进型AI的危险。他将前沿实验室竞相开发更强模型的做法形容为「拿我们的生命赌博」，呼吁各大AI实验室之间达成进度协议，放慢能力提升节奏。这一事件凸显了前沿AI公司内部安全派与商业压力之间的张力，也再次将AI灭绝风险与治理机制推向公众议程。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon宣布辞职，直接原因是担忧AI带来的灭绝性风险
- ▸他将当前前沿AI竞赛形容为「拿我们的生命赌博」，言辞激烈
- ▸他特别警告自我改进型AI的危险，即AI自主提升自身能力的失控风险
- ▸他呼吁各AI实验室间建立pacing agreements（进度协议）以协调放慢开发速度
- ▸辞职发生在Anthropic内部，说明安全担忧不仅存在于外部批评者中
🔥犀利点评
有意思的不是辞职本身，而是辞职者来自Anthropic——这家以安全为立身之本的明星公司。当自家安全研究员宁可砸掉饭碗也要发声，说明所谓「安全优先」在算力竞赛和融资压力面前可能只是公关话术。Coxon呼吁的进度协议听着美好，但没有强制力就是一纸空文，博弈论早就告诉我们：囚徒困境里率先减速的那家只会被淘汰。真正该问的是：辞职是抗争，还是逃避？留下来推动监督的人，或许比转身离场的道德勇士更有价值。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →