Townlet
  • 首页
  • AI工具
  • AI实战教程
  • 搞钱副业
  • 营销流量
  • 每日精选
  • 首页
  • AI工具
  • AI实战教程
  • 搞钱副业
  • 营销流量
  • 每日精选
  1. 首页
  2. 标签
  3. 本地推理
TensorFold 1.1.6:8 个对话齐发,首字延迟从 201 秒降到 31 秒

AI工具 TensorFold 1.1.6:8 个对话齐发,首字延迟从 201 秒降到 31 秒

8 个对话同时进来,最后一个等了 201 秒才吐出第一个字。新版本里,这个数字是 31 秒,快了 6 倍多。开…

7次阅读 0个评论
AI工具 近三天内
一个 flag 让 Strata 解码从 12.9 涨到 28.6 tok/s:慢的不是引擎,是它对内存的猜测

AI实战教程 一个 flag 让 Strata 解码从 12.9 涨到 28.6 tok/s:慢的不是引擎,是它对内存的猜测

有人实测:本地推理引擎 Strata 跑 DeepSeek,比另一个引擎 Maya 慢了 1.8 倍。数据没错…

3次阅读 0个评论
AI实战教程 五天前
Strata 升到 v0.2.4:同一张 4090,Qwen3.8-Flash-Next 又快了约 10%

AI实战教程 Strata 升到 v0.2.4:同一张 4090,Qwen3.8-Flash-Next 又快了约 10%

Strata 从 v0.1.44 升到 v0.2.4,只隔了 10 天。还是那张魔改 RTX 4090 48G…

3次阅读 0个评论
AI实战教程 六天前
 Theme by Puock