428B 的 MiniMax M3.1 Flash,本地化了:Unsloth 的 Dynamic GGUF 2-bit 版本只有 143.9GB,比官方约 252GB 小了 45%,Top-1 准确率还锁定在 91.5%,150GB 内存就能跑。以前只能调 API 的模型,现在真能塞进自家机器了。

这是一份原生多模态混合专家模型,编码、智能体工作流、计算机使用和网络安全都在行,支持文本、图像和视频输入,上下文最大可达 100 万标记。在 M3 的基础上,它在整个模型中引入稀疏注意力、量化感知训练和 DSpark 推测性解码,提高了任务性能和推理效率。

核心亮点就三条:2-bit 仅 143.9GB,1-bit 更低至 129GB,高保真不塌房;150GB 内存即可跑,16K 上下文起步友好;稀疏注意力 + QAT + DSpark,Coding、Agent、多模态全保留。实测里它在 BankerToolBench 上拿了 76.2 分,DeepSWE v1.1 上 73.7 分,OSWorld V2 上 61.7 分,CyberGym 上 82.2 分。
关键步骤也不复杂:装好 Unsloth Desktop,搜索下载 unsloth/MiniMax-M3.1-Flash-GGUF 的 UD-Q2_K_XL,加载时设 16K 上下文 + reasoning_effort: high(temp=1.0,top_p=0.95)。需要视觉或加速,可以额外启用 mmproj 与 DSpark。

加速这块还有个细节:DSpark 是推测性解码,配了一个 DFlash2 草稿模型,一次遍历就能预测整个词元块,再由轻量级选择器追踪出一条连贯路径,解码过程无损,输出与目标模型完全匹配。

评估口径也写得很清楚:运行在 SGLang(MiniMax-M3.1 版本)上,两块 NVIDIA GB300 GPU(TP2/EP2),目标权重 MXFP8,稀疏键值缓存 NVFP4,投机区块大小 8,每次验证步骤产生 7 个草稿代币,采样用 MiniMax 默认参数,新增代币上限 4096。

模型和指南都在这里: