Context Window
上下文窗口是指AI模型（如聊天机器人）在生成回复时，能够同时考虑和记住的对话或文本的最大长度。
它的工作方式
它通常以“令牌”（如单词或字符片段）数量来衡量。这个窗口限制了模型一次能处理的信息量，如果输入内容过长，超出窗口的部分就会被遗忘，从而影响回答的连贯性和准确性。因此，上下文窗口的大小是衡量AI模型能力的一个关键指标。
示例
- 1.在长文档总结时，模型需要一个大上下文窗口来一次性理解整个文件。
- 2.进行多轮复杂对话时，足够的上下文窗口能让AI记住之前的讨论要点。
- 3.编写长篇文章或代码时，模型需要参考前文来保持风格和逻辑一致。