本地语义搜索不用再囤几百 GB 向量:LEANN 只留图结构,存储砍掉 97%

3次阅读
没有评论

想在本地搞语义搜索,第一个拦路虎往往不是模型,是硬盘。

本地语义搜索不用再囤几百 GB 向量:LEANN 只留图结构,存储砍掉 97%

传统 RAG 的做法是把嵌入向量全量存下来,文档一到百万级,几百 GB 就没了,个人设备根本顶不住。LEANN 换了个思路:向量不全存,只留一份精简的图结构,检索时按需即时计算,存储直接砍掉约 97%,精度却没缩水。

笔记本上就能跑。文件系统、邮件、浏览器历史、微信和 iMessage、ChatGPT 与 Claude 的对话记录、Slack 和 Twitter 的实时数据、代码库,全部本地处理,云成本为零,数据也不出设备。

这个项目已经入选 MLsys 2026。对隐私敏感、又想要语义搜索的个人开发者,值得放进关注列表。

项目地址:https://github.com/StarTrail-org/LEANN

正文完
 0