苹果党可以码住了:一台 Mac 也能把刚发布的 DeepSeek-V4.1-Flash-1017 跑到每秒 100+ token,全程本地,聊天数据不出电脑。

实测数据(256GB M5 Ultra,80 核 GPU):生成速度稳定 102~112 tok/s,峰值冲到 136.7 tok/s;Prefill 读 prompt 飙到 1770 tok/s;短问题首字约 0.5 秒,16k 长上下文约 9 秒出字。用的是 3-bit 量化(iQ-MLX-3.0bpw),token 匹配率 89.8%,困惑度只涨 3.6%。
它还自带 DSpark 草稿层 + prompt lookup 加速,跑 coding agent 尤其猛。
快速上手:先升级到 macOS 26.10.3 预发布版;下载 MLX-Serve App(或 brew 安装);打开 App 在 Model Browser 里搜 DeepSeek-V4.1-Flash,下载对应量化版;然后直接聊天,或用 Claude Code、Codex 等工具连本地端口(兼容 OpenAI/Anthropic/Ollama)。
项目地址:https://github.com/ddalcu/mlx-serve
MIT 开源,无需 Python,写代码、跑 agent 的神器。