Cloudflare在10月26日的官方博客中披露,2026年8月27日至9月9日,少量使用Workers AI上GLM-5.3模型的客户,收到了包含其他客户请求数据的响应。这些数据来自不久前发往同一模型的请求。Cloudflare表示,问题已修复,模型已于9月9日恢复服务,并确认Workers AI托管的其他模型未受影响。

此次共有155条响应受到影响,对应的提示词长度均超过681,280个token。Cloudflare称,排除自身及研究人员的测试后,已识别请求的时间与数量特征符合普通长上下文使用,而非反复利用漏洞的行为;公司未发现蓄意利用的证据。

问题由两项因素叠加造成。首先是Cloudflare对开源推理引擎SGLang的配置不匹配:GLM-5.3的上下文窗口被设为1,048,576个token,但预填充GPU上的KV缓存池只能容纳681,280个token。Cloudflare承认,上线前已知这一差异,但当时预期引擎会对无法处理的提示词返回错误,加上长上下文测试返回了成功响应,因此没有将其视为问题。

另一项因素是SGLang在预填充与解码分离模式下处理此类超长请求的缺陷。无法放入缓存池的提示词会在内部被标记为拒绝,并替换成单个token的占位提示词。但引擎没有终止请求、向客户端返回错误,而是继续为占位提示词生成KV缓存,并将其传给解码节点。

9月8日,Knostic安全研究员Gadi Evron通过HackerOne向Cloudflare报告了这一租户隔离问题。Cloudflare次日上午复现问题,在宣布进入事件响应后40分钟内下线模型,随后部署修正后的配置和打过补丁的推理引擎,当天恢复服务。此次报告与SGLang的文章协调披露;Cloudflare还表示,已对生产环境中的SGLang部署开展后续加固,并继续与上游维护者合作处理此类缺陷。

原始来源:Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang