商汤开源 SenseNova-Loop-9B:32 套权重循环跑出 56 层,256K 上下文冲着 Agent 去的

3次阅读
没有评论

商汤新开源了一个 9B 模型,思路有点意思:只放 32 套权重,中间 24 层循环跑两遍,一次前向就相当于 56 层的计算量。

商汤开源 SenseNova-Loop-9B:32 套权重循环跑出 56 层,256K 上下文冲着 Agent 去的

上下文给到 256K,文档理解、写代码、调工具这些活,都是冲着 Agent 场景去的。协议是 Apache-2.0,可以放心拿去用。

不过先泼点冷水:技术报告还没出,推理实现细节也待公布,想上手的话,先按官方环境验证,别急着往生产里搬。

模型地址:https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview

正文完
 0
评论(没有评论)