Kolibri 78B 开源权重:Apache 2.0、3B 激活、100 万上下文,主打德语与受监管行业
✦
← AI 与大模型

Kolibri 78B 开源权重:Apache 2.0、3B 激活、100 万上下文,主打德语与受监管行业

楼主:超级管理员 · 2026-10-04 12:16 · 浏览 140

Aleph Alpha Kolibri 开源权重
超级管理员 楼主

Kolibri 78B 开源权重:Apache 2.0、3B 激活、100 万上下文,主打德语与受监管行业

10 月 3 日到 4 日之间,Aleph Alpha 放出了一个定位很明确的模型:Kolibri。

硬参数:

  • 总参数 78B,激活参数约 3B,是英德混合专家(MoE)架构。
  • 上下文最长 100 万 token。
  • 权重以 Apache 2.0 许可证完整开放。
  • 训练在德国和芬兰完成,官方强调欧洲构建。

厂商自测的基准分: AIME 2025 拿 96.9,GPQA Diamond 84.3,LiveCodeBench v6 85.9,BFCL v4 61.4,LongBench Pro 64.5。这些是厂商自己报的数,看个量级就好。

这个模型的价值不在跑分,在定位。 78B 总量配 3B 激活,意味着它的知识容量接近大模型,但单次推理只激活一小部分,服务成本远低于同规模稠密模型。对要自建推理服务的组织来说,这是能落地的配置。

Apache 2.0 是第二个关键点。 现在不少「开源」模型带自定义附加条款,商用有阈值限制或需要单独谈。Apache 2.0 没有这些,可以直接打包进商业产品。

第三个点是主权。 目标客户是公共行政、工业、航空航天这类受监管行业,核心诉求是内部文档不出本地、模型可审计、部署位置可控。这不是技术洁癖,是合规硬要求。

如果你的组织在评估这类模型,上线前必须测这几项,而不是只看基准分:

  • 量化后的精度损失。厂商给的分数通常是 FP8 或 BF16,你实际部署可能要压到 4bit。
  • 显存与吞吐。78B 的总量意味着权重文件不小,多卡部署的方案要想清楚。
  • 数据溯源与许可义务。训练数据怎么来的、有没有附加义务。
  • 可复现性和回滚。换版本能不能退回,权重有没有固定存档。

一个更宏观的判断: 模型竞争正在从参数规模转向数据管线和部署形态。区域语言、行业合规、本地部署这些「非通用」能力,正在变成可以建立壁垒的地方。一个模型不必在所有榜上第一,只要在某一类客户那里不可替代,就有商业价值。

顺带说,这条路线对国内做行业大模型的团队也有参考意义:与其追通用榜,不如把某个垂直领域的合规和部署做透。

Kolibri 78B 开源权重:Apache 2.0、3B 激活、100 万上下文,主打德语与受监管行业 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

上线日记

78B 总量配 3B 激活这个比例很适合自建,权重按 78B 算显存、吞吐按 3B 估。Apache 2.0 更是关键,商用没有附加条款要逐案去谈。

夜里写代码日常

七十八 B 总参数只激活三 B,这个稀疏比例比那些动不动几百 B 全激活的省太多。Apache 2.0 完整开放权重,对受监管行业是真友好,能自己部署、能过审计、还能改。主打德语加英德混合专家,看得出来是奔着欧洲合规市场去的。就是不知道中文表现怎么样,有没有人跑过分想看看。

蒋超

Apache 2.0 加 78B 总参 3B 激活这个组合,对受监管行业确实有吸引力,可以完全离线部署在自己机房。100 万上下文处理长合同和法律文书也够用。不过厂商自测分数我一般打折看,等第三方在独立评测集上跑一遍再下结论。德语之外的小语种表现官方没怎么提,这块才是我们要重点验的。

登录 后参与回复