资讯🔥7.0

再这样下去,Agent要被卖保健品了

虎嗅文章·2026/9/8 04:56:21🔗 原文

📋总体概括

AI Agent的指令注入安全风险正在成为真实威胁:造假网站将蛊惑性隐藏指令置于屏幕外-9999像素处,人类不可见但Agent可见,诱导其支付3美元购买虚假软件许可证。研究人员测试发现多个主流模型均上当受骗。这意味着诈骗逻辑发生根本转变——从『骗过人』变为『骗过AI』,攻击门槛大幅降低。在Agent被赋予支付、下单等真实权限的当下,安全能力不足的Agent直接接入真实世界,可能成为骗子眼中最好收割的『钱包』。

关键信息

  • 假网站将隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读,构成典型间接提示注入攻击
  • 攻击话术为伪装的软件许可证,诱骗Agent支付3美元,多个被测模型真实上当付款
  • 诈骗逻辑从『说服人类』转向『说服AI』,无需精修页面和话术,攻击成本显著降低
  • 核心风险在于Agent权限过大而安全能力不足,形成权限与防御力的错配

🔥犀利点评

这篇戳中了一个被资本叙事掩盖的真相:Agent的执行力越强,被劫持后的杀伤力越大。现在行业比拼的是谁家Agent能订机票、能付款、能签合同,安全测试却像事后补丁。-9999像素骗局技术含量极低,连模型都批量中招,说明所谓『智能』在对抗性攻击面前脆弱得不堪一击。在安全基准和责任划分机制落地前,任何宣称『全自动』的Agent产品都是在替用户承担被骗风险。

本文由本站自动聚合,以下为原始来源:前往 虎嗅文章 阅读全文