资讯

Shopify 推出 Gisting 新技术:将大模型系统提示词压缩为主旨词元

InfoQ中文·2026/9/9 16:30:00🔗 原文

📋总体概括

Shopify 发布名为 Gisting 的新技术,核心思路是将大模型的系统提示词压缩为少数「主旨词元」,以降低长系统提示词带来的 token 开销与推理成本。该技术由 Shopify 内部团队推出并对外披露,反映头部电商科技公司开始在生产环境中系统性优化大模型调用成本。在 AI 应用大规模落地的背景下,提示词压缩正成为企业控制推理支出的实用手段之一。

关键信息

  • Shopify 推出 Gisting 新技术,主攻大模型系统提示词压缩问题。
  • 技术方向是将冗长系统提示词压缩为少量「主旨词元」以复用。
  • 系统提示词在多次调用中重复消耗 token,是推理成本的隐性大头。
  • 此举折射电商科技企业在 AI 生产环境中对成本优化的迫切需求。

🔥犀利点评

别小看提示词压缩这种「抠门」技术——当 AI 调用按 token 计费、且每次都重复带上一大段系统提示词时,省下来的就是真金白银。Gisting 的本质是用一次性计算换掉每次调用的重复开销,属于典型的工程降本思路。真正的问题是压缩后指令遵循能力会打几折,这一点披露内容尚未给出答案。

本文由本站自动聚合,以下为原始来源:前往 InfoQ中文 阅读全文