手机上跑 Liquid AI LFM3-1.7B:1.1GB 本地模型,离线也能玩 Agent

3次阅读
没有评论

Liquid AI 刚发布的 LFM3,1.7B 参数就能硬刚 9-10B 的模型,而且完全本地运行。手机上就能玩,不用联网,隐私直接拉满。

手机上跑 Liquid AI LFM3-1.7B:1.1GB 本地模型,离线也能玩 Agent

关键亮点

AtomicChat 的 Uncensored GGUF 版本:拒绝率从 61.7% 直接干到 0%,MMLU 等指标几乎零损失。4-bit 量化只有约 1.1GB,轻松塞进手机。256K 超长上下文加原生工具调用,专为本地 Agent 优化。官方 LFM3 家族还有 Vision、Audio、Omni、Decision 模型,全在 2B 级,可单卡微调、端侧部署。架构是 tri-hybrid(短卷积 + 滑动窗口注意力 + 全局注意力),边缘设备的速度和内存都更优。

手机上手步骤

第一步,下载 GGUF 模型文件,推荐 AD-Q4_K_M 量化版本:

模型下载:AtomicChat / LFM3-1.7B-Uncensored-GGUF

第二步,安装支持 GGUF 的手机 App,比如 PocketPal AI,或者用 Termux + llama.cpp。

第三步,导入模型文件,设置温度 0.1、top-k 50、repeat penalty 1.1。

第四步,直接开聊,全程离线,还能玩 Agent 任务。想玩视觉、音频、决策,直接换对应模态的 GGUF 就行,官方权重和更多版本都在 Liquid AI 的 Hugging Face 集合里。

手机上跑 Liquid AI LFM3-1.7B:1.1GB 本地模型,离线也能玩 Agent

1.7B 参数、1.1GB 体积、256K 上下文——端侧小模型的实用线,正在往手机上挪。

手机上跑 Liquid AI LFM3-1.7B:1.1GB 本地模型,离线也能玩 Agent

正文完
 0