Pi 和 Claude Code 用户注意:这个端侧模型加适配器,工具调用能砍 40%

4次阅读
没有评论

Pi 和 Claude Code 用户有个省成本的新组合:LiquidAI 的 LFM2.5-24B-A2B,加上针对开源框架调优的专属 LoRA 适配器,工具 Token 调用最高能砍 40%。

LFM2.5-24B-A2B

这个模型总参数 24B,实际激活只有 2B,是 MoE 端侧 Agent 模型,支持 131K 上下文。它的路子是先思考再行动,配上适配器后,在 Pi、Claude Code 里更聪明、更省成本、输出也更可预测。

另一个好处是能端侧私有运行,速度快、成本可控,对在意数据和成本的团队尤其友好。

LFM2.5-24B-A2B 适配器

上手就三步:下载基座模型,拉取适配器,再加载 LoRA,接入本地 OpenAI 兼容端点,配置到 Pi 或 Claude Code 就能用,支持 Transformers、llama.cpp、GGUF。

模型地址:https://huggingface.co/LiquidAI/LFM2.5-24B-A2B

适配器合集:https://huggingface.co/collections/harness-hub/lfm25-24b-harness-adapters

官方博客:https://www.liquid.ai/blog/lfm2-5-24b-a2b

正文完
 0
评论(没有评论)