Unsloth 新版支持批量化 MoE 微调：显存受限的机器也能干活了

Unsloth 这一版主打可用性：支持自定义背景与 UI/UX 改进，缩短应用更新耗时，显存受限时加速 Linux 端和 Qwen-Image 生成。同时把 DeepSeek-V4.1-Flash-1017 纳入 Dynamic v3.1 GGUF 预览，让 FLUX.2-klein-9B 能在低内存机器上跑，并支持批量化 MoE 微调。

批量化 MoE 微调为什么值得关注

MoE 模型微调的难点在于专家路由的稀疏性：每个 token 只激活部分专家，不同 batch 里的 token 激活的专家集合不一样，导致显存占用波动大、梯度同步复杂。能批量化处理，意味着训练吞吐能上去，而不是一条一条慢慢喂。

适合谁

手里只有一两张消费级显卡，但想在自己的数据上做领域微调的团队。Unsloth 的一贯路线就是用更少显存跑同样的训练，代价是支持的模型范围有限、部分高级训练技巧用不了。

GGUF 预览的意义

把新模型纳入 Dynamic GGUF 预览，意味着量化版本可以在发布后很快跟上，不用等社区慢慢做。对本地部署的用户，这决定了你能多快用上新模型。

FLUX.2-klein-9B 低内存支持

图像生成模型的主要显存开销在注意力计算和 VAE 解码。能在低内存机器上跑，通常靠分块推理和精度调整。出图速度会慢，但对没有高端卡的创作者是可行的路径。

上手建议

先在你手上最常用的那个基座上跑一遍官方示例，确认环境和依赖没问题，再换自己的数据。Unsloth 的版本兼容性比较敏感，torch、transformers、trl 的版本组合要对齐，别随便升。

本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。

批量化 MoE 微调的难点在专家路由的稀疏性，不同 batch 里 token 激活的专家集合不一样，显存占用波动大、梯度同步复杂。能批量处理意味着吞吐真能上去，不只是省显存。

MoE 微调的难点确实在路由稀疏性，不同 batch 激活的专家不同，梯度更新容易把某些专家饿死。批量化如果能配合专家负载均衡的损失项才算真解决。显存受限的机器能跑起来，对小团队意义很大。