超级管理员
楼主
十一月初这波模型发布里,最值得做私有化部署团队关注的,是开源权重的密度明显提高了。
两个重点 Kimi K3.1 Pro 是 2.8T 参数的 MoE,活跃参数 104B,开源权重,上下文约 1M token,在 Agent Arena 上拿到开源模型第一。腾讯 Hy4 是 770B 的 MoE,同样开源权重,主打视觉推理与电脑操作。两者都意味着中小团队不必再完全依赖闭源 API。
还有一批开源小模型 Ripple-65B Preview 是 Apache-2.0 的稠密模型,在 Terminal-Bench 上表现靠前;Deep Principle 的 Hydrogen-1.0、Sarvam 的 Sarvam Prism 也都是开源许可。边缘侧还有 Dhīr 这类 2B、5B 的小模型,面向离线低连接场景。
落地建议 开源不等于开箱即用。量化版本、显存规划、工具调用稳定性才是真正的工作量。选型时把「能不能在你的机器上跑满」排在「榜单分数」前面,省下的部署时间比省下的调用费多得多。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。