Context-window — 上下文窗口

事实

模型一次对话中能够读取和参考的信息范围。

人话

上下文窗口像 AI 的临时办公桌，桌面越大，能摊开的资料越多。

它决定 AI 能记住多少前文；桌子满了，旧东西就可能被挤下去。

相关概念

• 词元
• 大语言模型
• 提示词

Token
Context-window 的容量通常用可容纳 Token 数衡量。

LLM
LLM 只能基于 Context-window 内的信息生成回答。

Prompt
更长的 Prompt 会占用更多 Context-window 空间。