Agent 日志不是记越多越好:可观测性要设计,敏感信息进日志前先处理

7次阅读
没有评论

做 Agent 项目有个绕不开的矛盾:系统一出问题,最希望看到完整的执行过程——模型调了什么工具、传了什么参数、接口返回了什么、每步花了多少 Token,最好全部记下来。但真把这些原封不动存下来,可能制造一个更大的问题。

Agent 处理的内容未必都能随便存、随便看。企业知识库里可能有内部文件,招聘 Agent 会读到候选人的个人信息,云端自动化工具可能接触 API Key 和临时访问凭证。主系统的权限控制做得再好,日志平台却存了一大堆原始敏感数据,等于另开了一个口子。

执行链路一长,问题还会放大:一个任务连续调十几个工具,同一份数据在不同工具之间传递,日志里就出现多份副本。开发者为了排查一次错误,反而把信息复制到了更多地方。

所以 Agent 的可观测性需要认真设计。调试时真正需要的,往往是任务编号、调了哪个工具、执行状态、耗时、错误类型,以及必要的输入参数摘要,不一定每次都保存完整用户资料。需要记具体内容的场景,结合脱敏、访问控制、保留期限和必要的审计机制,敏感信息在进入日志前就处理掉,而不是等出了问题再去删。

另外,执行记录最好跟真实操作对应:Agent 说查了数据库,就应该能找到实际查询的调用记录;说文件已上传,就应该有存储系统返回的结果。这样日志才不只是模型的工作日记,而是能用来检查系统行为的证据。Agent 会处理越来越多真实业务,权限和审计问题也会越来越具体:让系统足够透明、方便发现错误,同时不能让透明本身变成新的数据泄露风险。

正文完
 0