文章详情

怎么统计Agent使用的token量

回调处理机制 UsageMetadataCallbackHandler - 使用统计回调 功能概述 UsageMetadataCallbackHandler 是一个专门用于追踪和记录模型使用情况的回调处理器。 核心特性 自动统计: 自动收集 Token 使用统计 多模型支持: 支持多个模型的并发统计 线程安全: 使用锁机制确保线程安全 上下文感知: 自动获取

3 阅读