AI工具 8GB 显存笔记本跑 Qwen3.8 Flash Next:262K 上下文预填充 900 t/s 8GB 显存加 32GB 内存的笔记本,也能把 Qwen3.8 Flash Next 跑起来。配置是 RTX …
AI工具 2B 参数小模型也能真干活:MiniCPM5-2B 本地修 Bug,18 个测试全过 2B 参数的小模型,如今也能真干活了。OpenBMB 的 MiniCPM5-2B 主打本地小硬件运行,有人把它…
AI实战教程 同样开长上下文,33B 和 27B 显存能差十几 GB:Nanbeige 与 Qwen3.8 单卡实测对比 同样开长上下文,33B 和 27B,显存为什么能差十几 GB?作者把 Nanbeige4.3-33B 和 Qw…
AI工具 DeepSeek、Qwen、Llama 全装进自己电脑:一条命令,本地免费跑模型 DeepSeek、Qwen、Llama,全都能装进自己的电脑里免费跑,用的就是 Ollama。一条命令,就能把…
AI工具 讯飞星火 X2.6-4B 出了本地 GGUF 包:最小 1.72GB,低配机器也能跑 讯飞星火 X2.6-4B 有了能本地跑的轻量包。第三方开发者 Mungert 在开源社区发布了多版本 GGUF…
AI实战教程 3090 + 4060 Ti 跑 Qwen3.8-Flash-Next 256K 实测:第二张卡值不值,看首字等待就够了 64GB 内存、3090 24GB 加 4060 Ti 16GB,换更大的模型到底值不值?这份实测用 Stra…
AI实战教程 两台 DGX Spark 跑 DeepSeek V4.1 Flash:70.6 tok/s,8 并发反而到 106 两台 DGX Spark 跑 DeepSeek-V4.1-Flash-1017,解码速度能到多少?实测给出的答…
AI实战教程 一台 DGX Spark 给客户装本地 AI:装完才发现,客户要的不是模型,是能说话的助手 给第一个客户装 DGX Spark,装了一整套:Hermes、Qwen 3.8 Flash-Next、一个小 …
AI工具 本地语义搜索不用再囤几百 GB 向量:LEANN 只留图结构,存储砍掉 97% 想在本地搞语义搜索,第一个拦路虎往往不是模型,是硬盘。 传统 RAG 的做法是把嵌入向量全量存下来,文档一到百…