Townlet
  • 首页
  • AI工具
  • AI实战教程
  • 搞钱副业
  • 营销流量
  • 每日精选
  • 首页
  • AI工具
  • AI实战教程
  • 搞钱副业
  • 营销流量
  • 每日精选
  1. 首页
  2. 标签
  3. 推理引擎
一个 flag 让 Strata 解码从 12.9 涨到 28.6 tok/s:慢的不是引擎,是它对内存的猜测

AI实战教程 一个 flag 让 Strata 解码从 12.9 涨到 28.6 tok/s:慢的不是引擎,是它对内存的猜测

有人实测:本地推理引擎 Strata 跑 DeepSeek,比另一个引擎 Maya 慢了 1.8 倍。数据没错…

3次阅读 0个评论
AI实战教程 五天前
同一台 Mac,本地大模型速度差 2 倍多:Kapitsa 推理引擎专为苹果芯片优化

AI工具 同一台 Mac,本地大模型速度差 2 倍多:Kapitsa 推理引擎专为苹果芯片优化

同一台 Mac 跑本地大模型,69 tokens/s 和 161 tokens/s 的差距,居然来自推理引擎。…

3次阅读 0个评论
AI工具 2026年10月24日
 Theme by Puock