Townlet
  • 首页
  • AI工具
  • AI实战教程
  • 搞钱副业
  • 营销流量
  • 每日精选
  • 首页
  • AI工具
  • AI实战教程
  • 搞钱副业
  • 营销流量
  • 每日精选
  1. 首页
  2. 标签
  3. 本地部署
8GB 显存笔记本跑 Qwen3.8 Flash Next:262K 上下文预填充 900 t/s

AI工具 8GB 显存笔记本跑 Qwen3.8 Flash Next:262K 上下文预填充 900 t/s

8GB 显存加 32GB 内存的笔记本,也能把 Qwen3.8 Flash Next 跑起来。配置是 RTX …

2次阅读 0个评论
AI工具 四天前
2B 参数小模型也能真干活:MiniCPM5-2B 本地修 Bug,18 个测试全过

AI工具 2B 参数小模型也能真干活:MiniCPM5-2B 本地修 Bug,18 个测试全过

2B 参数的小模型,如今也能真干活了。OpenBMB 的 MiniCPM5-2B 主打本地小硬件运行,有人把它…

2次阅读 0个评论
AI工具 四天前
同样开长上下文,33B 和 27B 显存能差十几 GB:Nanbeige 与 Qwen3.8 单卡实测对比

AI实战教程 同样开长上下文,33B 和 27B 显存能差十几 GB:Nanbeige 与 Qwen3.8 单卡实测对比

同样开长上下文,33B 和 27B,显存为什么能差十几 GB?作者把 Nanbeige4.3-33B 和 Qw…

2次阅读 0个评论
AI实战教程 四天前
4B 小模型 Spark X2.6:工具调用实测,同尺寸里最能打

AI工具 4B 小模型 Spark X2.6:工具调用实测,同尺寸里最能打

Reddit 的 LocalLLaMA 社区最近在热议一个只有 4B 参数左右的小模型 Spark X2.6。…

2次阅读 0个评论
AI工具 五天前
DeepSeek、Qwen、Llama 全装进自己电脑:一条命令,本地免费跑模型

AI工具 DeepSeek、Qwen、Llama 全装进自己电脑:一条命令,本地免费跑模型

DeepSeek、Qwen、Llama,全都能装进自己的电脑里免费跑,用的就是 Ollama。一条命令,就能把…

2次阅读 0个评论
AI工具 五天前
讯飞星火 X2.6-4B 出了本地 GGUF 包:最小 1.72GB,低配机器也能跑

AI工具 讯飞星火 X2.6-4B 出了本地 GGUF 包:最小 1.72GB,低配机器也能跑

讯飞星火 X2.6-4B 有了能本地跑的轻量包。第三方开发者 Mungert 在开源社区发布了多版本 GGUF…

2次阅读 0个评论
AI工具 五天前
3090 + 4060 Ti 跑 Qwen3.8-Flash-Next 256K 实测:第二张卡值不值,看首字等待就够了

AI实战教程 3090 + 4060 Ti 跑 Qwen3.8-Flash-Next 256K 实测:第二张卡值不值,看首字等待就够了

64GB 内存、3090 24GB 加 4060 Ti 16GB,换更大的模型到底值不值?这份实测用 Stra…

2次阅读 0个评论
AI实战教程 六天前
两台 DGX Spark 跑 DeepSeek V4.1 Flash:70.6 tok/s,8 并发反而到 106

AI实战教程 两台 DGX Spark 跑 DeepSeek V4.1 Flash:70.6 tok/s,8 并发反而到 106

两台 DGX Spark 跑 DeepSeek-V4.1-Flash-1017,解码速度能到多少?实测给出的答…

2次阅读 0个评论
AI实战教程 六天前
一台 DGX Spark 给客户装本地 AI:装完才发现,客户要的不是模型,是能说话的助手

AI实战教程 一台 DGX Spark 给客户装本地 AI:装完才发现,客户要的不是模型,是能说话的助手

给第一个客户装 DGX Spark,装了一整套:Hermes、Qwen 3.8 Flash-Next、一个小 …

2次阅读 0个评论
AI实战教程 六天前
本地语义搜索不用再囤几百 GB 向量:LEANN 只留图结构,存储砍掉 97%

AI工具 本地语义搜索不用再囤几百 GB 向量:LEANN 只留图结构,存储砍掉 97%

想在本地搞语义搜索,第一个拦路虎往往不是模型,是硬盘。 传统 RAG 的做法是把嵌入向量全量存下来,文档一到百…

2次阅读 0个评论
AI工具 六天前
  • «
  • 1
  • 2
  • 3
  • »
 Theme by Puock