做 AI 应用,最怕的不是模型不好用,而是每次调用花了多少 token、哪里出错了,心里没数。调提示词全靠猜,账单来了才发现烧错了地方。
这三个监控工具都有免费档,个人项目先接一个就够用:Langfuse 每月 5 万单位,数据保留 30 天,支持 2 个用户,不用绑卡;LangSmith 每月 5000 条基础 trace,保留 14 天,1 个席位;Helicone 每月 1 万次请求,保留 7 天。
接上之后,调提示词就有了依据:哪一步 token 暴涨、哪次调用报错,一眼就能定位,改起来不用反复试错。先挑一个接上,跑起来再说。
正文完