AI十年内会杀死全人类？Anthropic研究员发出最严重警报

📋总体概括

9月9日，先后在OpenAI和Anthropic从事预训练工作的研究员Jacob Coxon在X上连发7条帖子宣布离职，并发出所谓AI可能在十年内威胁全人类的严重警告。值得注意的是，此前行业减速呼声多来自安全与对齐团队，如今OpenAI首席科学家也公开呼吁放慢节奏。这一动向与行业表面景象形成反差：新模型接连发布、估值不断抬升，OpenAI和Anthropic均在筹备上市。掌握模型训练细节的一线人员发出警告，为AI安全讨论增加了新的信号。