文章详情

上下文管理

在 Agent 系统中，Memory 的存在并不意味着可以无限制地向模型输入信息。事实上，大语言模型始终受到 Context Window（上下文窗口） 的限制，即每次推理能够处理的 Token 数量是有限的。如果系统在每一次推理时都将所有历史对话、所有长期记忆以及所有任务信息全部放入 Prompt 中，不仅会迅速超过模型的上下文限制，还会显著增加推理成本和

3 阅读