文章详情

Token 优化策略

在基于大语言模型构建的 Agent 系统中，Token 是计算成本和系统性能的核心指标之一。模型推理的费用通常按照输入 Token 和输出 Token 的数量进行计费，同时 Token 长度还会直接影响推理延迟。因此，如果 Agent 系统在设计阶段没有对 Token 使用进行优化，很容易出现调用成本过高、响应速度变慢以及上下文窗口被迅速占满等问题。 从工程

3 阅读