热门开源大模型网关 LiteLLM 在 2026 年半年之内连续发生两次供应链投毒,3 月 1.82.7、1.82.8 版本,10 月 1.107.0 版本先后被植入窃取凭证的恶意代码,它本身是行业里常用的 “大模型钥匙串”,集中收纳 OpenAI、Anthropic、云厂商等上百家模型服务商的 API Key,一旦包被投毒,攻击者就能批量偷走全部密钥,直接引发大额盗刷、越权调用风险;两次事件根源都不是简单代码漏洞,而是发布流水线被劫持,恶意 wheel 包、Docker 镜像推送到 PyPI,就算开发者不主动 import 这个库,只要 Python 解释器启动,偷密钥的木马就自动运行,这件事也把一个核心问题摆上台面:企业里的大模型 API 密钥,到底该不该、能不能全部集中放在像 LiteLLM 这类网关里面,以及如果集中存放,配套要搭哪些防护。
一、两次 LiteLLM 投毒事件基础信息清单
| 事件时间 | 受影响版本 | 攻击方式 | 恶意载荷目标 |
|---|---|---|---|
| 2026-03-24 | 1.82.7、1.82.8 | PyPI 投毒,利用.pth 机制开机自启 | API 密钥、SSH 私钥、云凭证、K8s token |
| 2026-10-21 | 1.107.0 | 接管 GitHub 发布流水线,篡改编译 wheel + 官方 Docker 镜像 | AI 服务商密钥、云凭据、本地开发密钥,附带远程控制 RAT |
- 共性:源码仓库里的源代码是干净的,编译后的发行包带毒
- 传播渠道:PyPI 包、Docker Hub、GHCR 镜像
- 触发特点:无需业务代码 import,Python 启动就执行恶意代码,CI / 开发机、服务器都会中招
- 影响范围:周下载量 2300 万,DSPy、CrewAI、LangGraph 等大量 AI 框架依赖它
二、LiteLLM 为什么被叫做大模型的钥匙串
LiteLLM 本质是统一代理网关,核心设计思路就是集中收纳各家大模型服务商原始 API Key,对外给业务侧发放限额虚拟 Key,好处如下:
- 一套兼容 OpenAI 的接口,对接 140 + 大模型厂商
- 统一做路由、降级重试、计费统计、速率限制、权限隔离
- 业务开发人员不用到处维护一堆不同平台的密钥
风险根源也来自这个设计:单点汇聚了全公司几乎所有大模型访问凭证,一旦网关本身被攻陷,就是密钥一锅端。
三、API 密钥三种存放方案对比表
| 方案 | 做法 | 优点 | 本次事件暴露的短板 |
|---|---|---|---|
| 集中网关托管(LiteLLM 原生方案) | 原始密钥存入 LiteLLM 配置 / 数据库,网关代为转发请求 | 统一管控、计费、路由,开发效率高 | 网关自身供应链出事,全部密钥直接泄露,单点灾难 |
| 密钥托管服务(云 KMS、密钥管理系统) | LiteLLM 不存明文密钥,调用 KMS 动态拉取、按需解密 | 密钥不常驻网关内存之外,泄露门槛更高 | 网关被攻陷后,依然可以借网关身份调用 KMS 拉密钥,需要额外权限边界 |
| 业务侧分散持有密钥 | 业务服务各自保管对应模型厂商密钥,不经过统一网关 | 无单点集中泄露风险 | 密钥分散难审计、难统一限流、切换模型改造量大,运维成本很高 |
四、密钥安全落地实操建议
- 尽量不要直接把原始 API 密钥硬编码写在 LiteLLM 配置文件、环境变量
- 包版本强锁定,禁止浮动版本安装
- 给 LiteLLM 做最小权限隔离
- 密钥分级、按需最小化授权
- 供应链校验动作
- 监控异常调用
优先对接 KMS、Vault 这类独立密钥托管组件,LiteLLM 只保留授权拉取密钥的权限,不持久存储明文。
pip install固定写死版本号,不要用>=这类模糊版本;镜像必须校验哈希,不要直接拉 latest 标签。
网关独立部署在隔离子网,不允许网关机器主动外发未知出站流量;网关本身没有权限横向访问其他业务服务器、数据库。
区分生产、测试密钥,给不同团队单独模型配额,密钥设置自动过期轮换策略;一旦怀疑泄露,一键批量吊销。
启用 SBOM 软件物料清单、签名校验;优先使用源码自行编译打包,而不是直接拉取 PyPI 预编译 wheel 包。
大模型厂商侧开启告警,识别异地、突发高并发调用,盗刷发生时能快速止损。
五、两种常见误区澄清
❌ 误区:只要我不用 LiteLLM 代理,只用 SDK 就安全
很多 AI 框架底层隐式依赖 LiteLLM,间接依赖同样会中招,不是自己主动部署网关才会踩坑。
❌ 误区:密钥放进 KMS 就万事大吉
KMS 解决密钥静态存储安全,但如果网关进程本身被黑客控制,依然可以调用 KMS 接口获取密钥发起请求,KMS 需要搭配访问策略、审计日志、权限边界一起使用。
【相关 FAQ】
问题 1:LiteLLM 半年两度被投毒,为什么它被称作大模型的钥匙串?
回答 1:LiteLLM 是开源大模型网关,作为大模型的钥匙串,集中存放 OpenAI、Anthropic 等上百家服务商的原始 API 密钥,对外统一分发带预算管控的虚拟密钥,方便企业统一调度各类大模型。
问题 2:LiteLLM 投毒事件里,恶意代码是怎么拿到大模型 API 密钥的?
回答 2:攻击者篡改 LiteLLM 编译后的 wheel 包和 Docker 镜像植入凭证窃取木马,只要 Python 启动就自动运行,扫描本机环境变量、配置文件、密钥文件,把里面存放的大模型 API 密钥、云凭证外传。
问题 3:作为大模型的钥匙串,LiteLLM 集中存放 API 密钥的模式有什么致命风险?
回答 3:把所有大模型 API 密钥全部交给 LiteLLM 集中托管,一旦 LiteLLM 供应链被攻破,所有厂商密钥会一次性泄露,属于典型单点故障,很容易引发大规模盗刷、数据泄露。
问题 4:想要管好做大模型钥匙串的 LiteLLM,密钥最佳存放方式是什么?
回答 4:不建议 LiteLLM 本地持久保存明文密钥,推荐接入 Vault、云 KMS 密钥托管系统,LiteLLM 只在请求时动态拉取密钥,同时锁定包版本、隔离网关网络、开启密钥自动轮换和调用审计。
【参考资料】
[2026-10-23](LiteLLM 官方安全公告:10 月 21 日供应链攻击完整攻击链)LiteLLM 官方博客
[2026-10-22](7 个 wheel 全部带毒,LiteLLM 1.107.0 发布流水线失守)钛媒体
[2026-10-21](LiteLLM Compromised Again: Infostealer and RAT in 1.107.0)LLM Gateway
[2026-03-31](从 4.8 亿下载量的 LiteLLM 投毒事件,看 AI 基础设施安全攻与防)腾讯安全应急响应中心
【免责声明】
本文 LiteLLM 两次投毒事件、攻击链路、密钥方案分析信息来自 LiteLLM 官方安全通告、安全厂商公开报告;供应链安全风险随版本迭代持续变化,密钥方案没有绝对零风险选择;本文仅行业安全科普,不构成企业生产环境落地的唯一安全方案,生产上线前建议结合自身安全基线做渗透测试与权限审计。
本文来自作者[频簇中继]投稿,不代表江南网立场,如若转载,请注明出处:https://news.jnwb.net/rgzn/202611/4591.html
评论列表(4条)
我是江南网的签约作者“频簇中继”!
希望本篇文章《LiteLLM 半年两次供应链投毒事件大模型集中管理 API 密钥的存放方案怎么选》能对你有所帮助!
本站[江南网]内容主要涵盖:互联网行业的追踪与探索
本文概览:热门开源大模型网关 LiteLLM 在 2026 年半年之内连续发生两次供应链投毒,3 月 1 82 7、1 82 8 版本,10 月 1 107 0 版本先后被