资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
9月10日，AI研究员Jacob Coxon从Anthropic辞职，公开指责Anthropic与OpenAI「拿我们的生命做赌注」，称两家公司正竞相研发自我提升的超级智能，其内部人员真心相信2030年前AI可能毁灭人类。帖子浏览量超7000万次，Anthropic对齐科学负责人Evan Hubinger随后回应，称其认为未来十年内AI毁灭人类的概率超过10%，且业界尚未解决超级智能的协同控制问题，业内对递归式自我改进（RSI）风险的担忧再度升温。
⚡关键信息
- ▸Coxon从Anthropic辞职，公开指责Anthropic和OpenAI在AI安全上不负责任，正在竞相研发自我提升的超级智能
- ▸Coxon称开发者内部真心相信到2030年AI可能毁灭人类，并警告将出现可入侵任何系统的超人级AI
- ▸其帖子在X上浏览量超过7000万次，引发业界对递归式自我改进（RSI）风险的大规模讨论
- ▸Anthropic对齐负责人Hubinger回应称，未来十年AI毁灭人类概率超过10%，目前没有解决超级智能协同问题的方案
- ▸RSI即AI无人干预下自我设计后续版本，目前尚未实现，但Anthropic与OpenAI均警告其可能导致人类失控
🔥犀利点评
最讽刺的一幕莫过于：一边发出「AI十年内毁灭人类概率超10%」的末日警告，一边继续竞速研发超级智能。头部公司把「我们很担忧」当成了安全背书和营销叙事——警告越响亮，融资越容易，监管压力越分散。Coxon的出走撕开了这层遮羞布：真正的问题不是AI会不会毁灭人类，而是一家公司的商业竞争逻辑根本容不下「暂停」这个选项。10%的概率在任何其他行业都足以叫停项目，唯独在AI圈只是发帖的素材。
📰 相关资讯（与本文相关的其他资讯）
资讯Here we go！罗马诺：梅西成为西乙埃登斯老板，收购球队100%股权🔥9.0
懂球帝头条·2026/9/9
公司New Seahawks Owner Vinod Khosla Teams Up With 12 Limited Partners to Complete $9.6B Sale🔥9.0
EssentiallySports·2026/9/4
公司Lakers Ownership Takes Surprising Twist With Bob Iger and Josh Kushner Amid Jeanie Buss Drama🔥9.0
EssentiallySports·2026/9/4
公司Clippers Fire Back at Adam Silver After NBA Hands Steve Ballmer, Kawhi Leonard Severe Punishment For Salary Cap Circumvention🔥9.0
EssentiallySports·2026/9/3
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →