正在加载文章...
正在加载文章...
正在加载文章...
工业网络安全公司 Dragos 披露,三家 AI 推理供应商的内部数据被窃取持续数月,而三家在研究者告知前都不知情。部分被窃请求带有 Zero Data Retention(零数据保留)标记——这个设置本应意味着提示词不会被存储。
AI 网关 OpenRouter 随后表示,已从平台移除三家供应商,将 125 个端点从 ZDR 资格中剔除,并通知了所有可能受影响的客户。OpenRouter 强调自身未被入侵。最早的入侵始于 7 月中旬。
Dragos 在 7 月到 11 月间向约 200 万个提示词中植入了唯一的网页链接和凭据作为金丝雀令牌,然后观察是否有人使用它们。一个被植入的秘密只可能在一个地方被学到,因此任何一次使用都意味着有人读到了承载它的提示词。
这个方法的价值在于:它不依赖供应商自报日志,也不依赖隐私开关的声明,而是用“秘密是否被使用”这一可观测事实来反推数据是否被读取。
规模最大的一起涉及约 200 个 AWS 密钥,每个密钥只被发送一次,集中在 10 月下旬的几个短窗口内。这些窗口内发出的每一个请求都被窃取,其中一些甚至是供应商在模型运行前就已拒绝的请求——这说明攻击者是在流量到达的第一点复制,而不是在推理栈更深处。
窃取者在数小时内测试密钥,列举 S3 桶、搜索 Secrets Manager 和 Parameter Store,尝试创建 Bedrock API 密钥、添加 IAM 用户以维持访问,产生了数万次 AWS API 调用。有一名攻击者似乎同时攻陷了两家供应商,从同一台租用的服务器上使用两边的秘密。11 月 1 日,该攻击者引入了 AI 驱动的渗透测试框架 ARTEX,但只用来确认手中密钥是否仍然有效。其两个 user agent(artex-agent、artex-judge-r121)在公开的威胁指标列表中找不到,值得加入检测规则。
Dragos 首席研究官 HD Moore 的评论大意是:当攻击者已经在内部时,隐私标记帮不上忙。
第二个发现不需要任何入侵。AI 推理市场上有卖家以最低价格列出模型,开启请求日志,收集流经的一切。这些人看起来像是使用家庭宽带的个人。其中一人用法国家庭宽带上的 Mac,从两个提示词中取出密码,手工尝试 root SSH 登录,然后用同一台机器测试多个植入的 AWS 密钥。
其中一个密钥曾经由一个不同的路由器转发,该路由器悄悄把部分流量转给了这个市场——没有任何客户被告知这一跳。该路由器后来表示已停止。对约 2000 条路径的追踪发现了数百个未识别的系统,还有一个卖家会在每个提示词中悄悄加入约 1000 个隐藏 token。
一家未被点名的中国 AI 实验室,从 7 月到 10 月间发给其模型的一半以上种子提示词中获取了秘密链接,其中包括约三分之二标记为不收集数据或 ZDR 的请求。发给转售该实验室模型的美国托管商的提示词触发了同一个抓取器,从而回流到该实验室。另一家云上的 git 客户端后来尝试克隆提示词中引用的私有仓库,但只针对该实验室的模型。一家大型美国供应商在一次搜索端点请求两个多月后仍在爬取一个秘密链接。
一个提示词发出 24 天后,其秘密链接被贴进飞书的一个聊天中,两分钟内被北京和上海的三个桌面端和三个手机打开。Dragos 只披露了链接的前 8 个字符,所以发布者读到的是完整提示词的缓存副本。
Railway 在 10 月表示,它遭遇的入侵很可能是针对平台公司、最终目标是攻陷 AI 推理供应商的一系列攻击的一部分。OpenRouter 称并非所有受影响供应商都公开披露。
第一,网关不是数据边界。OpenRouter 没有被入侵,但请求经过它到达第三方,第三方又可能转售、转发、回流到上游。每一个环节都是独立的信任域,ZDR 是合同与配置层面的承诺,不是技术保证。
第二,提示词是数据外泄面。私有仓库 URL、内部主机名、临时凭据、客户数据,一旦进入提示词,就等同于交给了链路上的每一方,包括可能开启日志的市场卖家。
第三,最便宜的端点风险最高。低价加日志开启是一种商业模式,不是漏洞。
ZDR 标记不能替代对链路的可见性。对敏感提示词而言,最稳妥的假设是:它会被存储、会被转发、会被人读到。