名词解释 / 02
上下文窗口
第 23 / 127 个名词学会和 AI 沟通
英文名称:Context Window
常见别名:Context Window、上下文长度、上下文容量
所属分类:学会和 AI 沟通
一句话解释
上下文窗口是模型一次能够直接参考的信息容量,其中包括系统规则、用户输入、对话历史、文件内容和工具结果,通常用 token 数量表示。“上下文长度”既可能指这个容量上限,也可能指当前已经占用的长度,要结合产品说明判断。
工作中什么时候会遇到
长对话后 AI 忘记前文、一次上传很多材料后遗漏重点,或者产品宣传支持 128K、1M 上下文时,讨论的就是这个能力。
能解决什么问题
- 一次处理较长文档或更多材料。
- 在多轮对话中保留更多前情。
- 为复杂任务容纳规则、示例和执行结果。
- 减少过早切分材料造成的信息断裂。
举个例子
分析一套设备说明书时,大窗口能容纳更多章节,但不保证准确找到每条规定。实际系统通常先检索与报警码相关的章节,再把少量高相关内容放进窗口。
怎么使用
把窗口当成有限的工作台:保留当前目标、关键事实、有效规则和最近结果;长任务定期压缩摘要,外部资料通过检索按需加载。
使用时要注意什么
标称容量不是准确理解能力。材料越多,费用、延迟和干扰可能越大;旧版本、重复信息和无关内容会降低模型抓重点的能力。
容易混淆的词
- 上下文:实际提供给模型的相关信息。
- 输出长度:只指模型一次最多能生成多少内容,可能与上下文窗口分别受限。
- 记忆:在窗口之外保存信息,并在以后重新取回。
- 文件大小:通常按 MB 计算,经过解析后才能换算成 token,不能直接等同于上下文长度。
相关名词
相关图片
