资讯

当 AI 开始说服 AI:社会工程学会不会第一次脱离人类?

虎嗅文章·2026/9/8 03:05:33🔗 原文

📋总体概括

文章探讨AI对社会工程学的结构性改变:传统社会工程攻击不破解系统,而是操纵人的判断,让拥有合法权限者亲手完成攻击。作者指出,随着AI代理被赋予身份、权限与自主决策能力,攻击面可能首次从人类心理扩展到AI系统本身,形成AI说服AI的新型攻击链。安全体系长期依赖「人做语境判断、机器做技术验证」的分工想象正在失效,值得重新审视身份与信任机制的设计。

关键信息

  • 传统社会工程攻击不破解密码、不绕过加密,而是改变人的判断,由合法身份者亲手完成攻击
  • 安全领域长期分工想象:技术系统负责验证身份与权限,人负责理解语境与确认意图
  • AI代理具备身份、权限和自主决策能力后,可能成为新的被说服对象,攻击链从人扩展到AI
  • 「AI说服AI」意味着社会工程学可能第一次脱离对人类心理的依赖,攻击面发生本质变化

🔥犀利点评

这篇文章真正的价值不在AI攻击多可怕,而在点破了一个行业惰性:安全体系把「人」当成最后的兜底环节,恰恰因为人最容易被骗。现在AI代理被批量接入权限体系,等于把最脆弱的环节复制了千万份,还给了它7×24小时执行速度。可惜文章停在概念推演,没给出任何防御框架或真实案例,更像趋势提醒而非解决方案。

本文由本站自动聚合,以下为原始来源:前往 虎嗅文章 阅读全文