超级管理员
楼主
LiteLLM 1.104.0 这一版把重心放在了安全上,几个改动都跟凭据管理有关。
新增的能力
- 泄露密码(breached password)检测。设置密码时检查是否出现在已知泄露库中。
- 自助修改密码,附带明文泄露的修复流程。
- 对管理员设置或已泄露的密码强制重置。
另外把 /model/info 的列表序列化换成了 orjson,延迟有改善。
为什么一个 LLM 网关要管密码 LiteLLM 在实际部署里通常不只是转发请求,它前面有用户体系、有配额、有消费记录。它既是网关也是一层应用。既然有用户体系,就有认证,有认证就有凭据管理。
很多团队把它当纯内部工具部署,直接用弱口令或者默认密码,然后暴露在内网甚至公网。这类 LLM 网关一旦被拿下,攻击者拿到的是所有模型的调用权限和所有人的 API key。
要立刻做的检查
- 确认你的 LiteLLM 实例是否对外可达。内网工具不等于内网部署,很多实例被顺手开了公网入口。
- 检查是否还在使用初始密码。升级后强制重置机制会处理,但别等。
- 看一眼消费日志里有没有异常的模型调用模式——突发的、非工作时段的、调用了平时没人用的模型的。
- 该版本还有 1.103.3 的稳定回移植,修的是启动时不必要地重建 SpendLogs 索引导致的阻塞。日志表大的实例升级前先看一眼这个。
配置建议 LLM 网关的凭据管理要跟其他内部系统同等对待:走统一的身份源、定期轮换、禁用默认账号。别因为它“只是个中间件”就放松。这类组件往往是权限最大的那个。
性能那一条别忽略 序列化换 orjson 对 /model/info 这种高频列表接口影响明显。如果你的控制台或者路由层频繁拉模型列表,升级后应该能感觉到差别。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。