资讯

AI巨头开始给生成的文本打水印了……肉眼看不见,但机器可溯源

虎嗅文章·2026/9/4 12:45:29🔗 原文

📋总体概括

2026年8月2日,欧盟《人工智能法案》第50条关于AI透明度义务的核心条款正式生效,要求前沿AI模型服务商确保其生成内容可被机器识别溯源,通常以不可见水印等技术实现。违规者将面临最高1500万欧元(约1.173亿人民币)或全球年营业额3%的罚款。8月2日后发布的新模型须立即合规,已上市老产品获得过渡期,最晚于12月(截取内容未完整显示具体截止安排)完成整改。这标志着AI生成内容标识从行业自律走向强制监管,水印技术由此成为AI产业合规基础设施。

关键信息

  • 欧盟《人工智能法案》第50条于2026年8月2日正式生效,为AI透明度义务核心条款
  • 前沿AI模型服务商必须确保生成内容可被识别,水印肉眼不可见但机器可溯源
  • 违规最高罚款1500万欧元(约1.173亿人民币)或全球年营业额的3%
  • 8月2日后发布的新模型须立即合规,已上市老产品最晚12月完成整改
  • AI内容标识从企业自律转向法定强制义务,波及全球所有向欧盟提供服务的模型厂商

🔥犀利点评

欧盟又抢先定了规则,美国厂商骂归骂,最后还得照做——这就是布鲁塞尔效应的又一次复制。但别急着欢呼:水印技术上并不牢靠,改写、翻译、转码都能削弱甚至洗掉标识,且开源模型根本没法管。第50条真正卡住的是大厂的商业化API,管不住的是盗版模型和恶意使用者。合规成本会转嫁给用户,而真正的深度伪造风险未必降多少——这是监管姿态大于实质效果的一步,但至少逼着行业把溯源能力建起来了,聊胜于无。

本文由本站自动聚合,以下为原始来源:前往 虎嗅文章 阅读全文