文章详情
在大语言模型中,Context Window(上下文窗口)是指模型在一次推理过程中能够同时读取和理解的最大 Token 数量。简单来说,上下文窗口决定了模型在生成回答时能够“看到”的信息范围,包括用户输入的文本、系统提示(System Prompt)、对话历史以及模型已经生成的内容。 在实际运行过程中,大语言模型的工作方式是基于上下文进行预测。当用户输入一段
4 阅读
请输入邀请码解锁全文内容