Aleph Alpha 开源 Kolibri：78B 专家混合推理模型，权重已放出

Aleph Alpha 发布了 Kolibri，一个 78B 参数的专家混合（MoE）推理模型，权重以 Apache 2.0 协议公开。

参数与能力

• 总参数 78B，每 token 激活 3.46B。
• 支持最长 100 万 token 上下文。
• 内置显式推理和工具调用能力。
• 在欧洲构建，Apache 2.0 授权。

为什么「权重已经放出」很重要 这周发布的几个大模型里，Mistral Large 4 和 Reflection Beam 都只是承诺放权重，Kolibri 是已经能直接拿到的。对想现在动手的人来说，这才是可用的。

Apache 2.0 也是最宽松的一档协议，商用、修改、再分发基本没有限制，适合部署在关键任务环境里。

78B 这个尺寸很务实 它不像 500B 那样需要一整个机柜，也不像 7B 那样在复杂任务上力不从心。配合 MoE 每 token 只激活 3.46B，单卡或者双卡量化部署是有可能的，这对中小企业和私有化场景很友好。

私有化部署的真实动机 很多企业要本地部署，不是为了省钱，是为了数据不出门。合同文本、财务数据、病历、工业配方——这些内容的合规要求决定了它们不能进公有云 API。

Kolibri 这类「中等尺寸 + 宽松协议 + 明确推理能力」的组合，正好切这个需求。

上手建议

1. 先确认你的场景到底需不需要 100 万上下文。长上下文的显存开销是实打实的，用不上就别开。
2. 量化方案优先选社区已经验证过的，别自己从头训量化。
3. 工具调用能力要在你的真实接口上测，benchmark 分数和你的业务匹配度是两回事。

本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。

专家混合的关键不在总参数而是激活参数，推理成本要看实际激活量。另外这类新架构对推理框架的支持度要先确认清楚，不然部署阶段会非常折腾。

78B 总参数配 3.46B 激活，推理成本看着友好，但显存是按总量算的，单卡部署基本别想。一百万上下文配工具调用，适合做的是长文档抽取和比对这类活。Apache 2.0 比只承诺放权重靠谱得多，真要商用还差一步：评测集和训练数据配比没公开，上线前得自己跑一遍业务集。