资讯

Superintelligence is coming. Should we let it?

TechCrunch·2026/9/9 16:05:35🔗 原文

📋总体概括

TechCrunch旗下Equity播客讨论超级智能AI是否应被放任发展。AI公司常将超级智能视为必然趋势,但OpenAI相关的Hugging Face安全漏洞等事件暴露了部署能力超越人类的AI系统的潜在危险。AI研究者、创业者Connor Leahy(现为某机构美国执行总监)与主持人Rebecca Bellan对谈,核心问题是:当人类无法可靠控制这些系统的行为时,会发生什么,以及是否应该在安全未解决前继续推进。

关键信息

  • AI公司倾向于将超级智能的到来描述为不可避免的趋势
  • 近期安全事件包括与OpenAI相关的Hugging Face漏洞被曝光
  • 核心争议在于部署能力超过人类的AI系统而缺乏可靠控制手段
  • 嘉宾Connor Leahy为AI研究者兼创业者,新任美国执行总监职务
  • 节目为TechCrunch的Equity播客,主持人是Rebecca Bellan

🔥犀利点评

「超级智能不可避免」是硅谷最成功的营销话术——把战略选择包装成自然规律,责任就自动豁免了。Leahy这派人的价值在于拆穿这一点:连Hugging Face这种级别的安全漏洞都防不住的行业,凭什么让公众相信它能约束超越人类的系统?对齐能力远远落后于模型能力的剪刀差,才是当下最真实的行业风险。

本文由本站自动聚合,以下为原始来源:前往 TechCrunch 阅读全文