做 AI 应用先把账算清楚:三个有免费档的调用监控工具

3次阅读
没有评论

做 AI 应用,最怕的不是模型不好用,而是每次调用花了多少 token、哪里出错了,心里没数。调提示词全靠猜,账单来了才发现烧错了地方。

这三个监控工具都有免费档,个人项目先接一个就够用:Langfuse 每月 5 万单位,数据保留 30 天,支持 2 个用户,不用绑卡;LangSmith 每月 5000 条基础 trace,保留 14 天,1 个席位;Helicone 每月 1 万次请求,保留 7 天。

接上之后,调提示词就有了依据:哪一步 token 暴涨、哪次调用报错,一眼就能定位,改起来不用反复试错。先挑一个接上,跑起来再说。

正文完
 0