9B 参数本地跑出 27B 水平:SenseNova-Loop 只需 16G 内存

2次阅读
没有评论

9B 参数的模型,硬是打出了 27B 级的水平。SenseNova-Loop-9B-Preview 的思路不是堆参数,而是用计算深度换参数量:Looped Transformer 加参数共享循环,中间层反复跑几遍,推理时的等效参数量拉到约 14.6B。

9B 参数本地跑出 27B 水平:SenseNova-Loop 只需 16G 内存

按公布的成绩,它在 WorkBuddy、RaccoonPPT、AutomationBench 三项上都超过了 Qwen3.5-27B。mHC 带来的提升也很具体:GPQA Diamond +4.42,TeamBench +13.34。模型支持图文输入,上下文做到 262K,代码、办公、Agent 任务都能接。

9B 参数本地跑出 27B 水平:SenseNova-Loop 只需 16G 内存

轻量是它最实在的卖点。量化之后,16G 内存的设备就能本地跑通,社区的 GGUF 量化版更适合纯 CPU 或低显存机器。协议是 Apache 2.0,支持 MTP 加速,本地部署的门槛一下子低了很多。

上手路径很短:先从 Hugging Face 拉 sensenova/SenseNova-Loop-9B-Preview,装好 transformers 5.18.0、torch 和 accelerate,加载时开 trust_remote_code=True,就能跑 thinking 和多模态推理。

模型主页:https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview
开源仓库:https://github.com/OpenSenseNova/SenseNova-Loop

正文完
 0