4 min read
AI 聊天并不会记住你告诉它的所有内容。它只记得能装进其上下文窗口(context window)的内容。一旦理解了这个概念,许多奇怪的 AI 行为就突然说得通了:写方案写到一半就忘了你报价的助手,跳过文档前半部分的摘要,以及用得越久就越慢、越含糊的对话。
本指南从零讲起。读完后,你会知道什么是上下文窗口,如何发现自己已经触及它的极限,以及让 AI 工作保持准确的五个简单习惯。
通俗易懂的定义
上下文窗口就是 AI 模型在撰写回复时一次能看到的文本量。可以把它想象成助手的办公桌。桌上的一切(你的指令、目前为止的对话、你上传的文件,以及它正在写的回复)都能同时看到。放不下的东西就不在它的视野之内。
办公桌的大小以词元(token)来衡量。词元是小段文本,通常是一个短词或长词的一部分。在英语中,一个词元平均约等于四分之三个单词,所以 1,000 个词元大约相当于 750 个英文单词。Anthropic 的上下文窗口文档也是这样解释的:窗口是模型在单次对话中的工作记忆,与模型在训练中学到的一切是两回事。
为什么小企业主应该关心这一点
现在的 AI 助手窗口都很大,足以容纳一份长合同或几百封邮件。那为什么还要在意?原因有三。
- 长对话会把桌面堆满。如果你让一个对话持续开着好几周,早先的指令就会被埋在后来的几百条消息下面。视工具而定,较早的内容可能会被概括、裁剪,或者干脆得到更少的关注。
- 注意力分布并不均匀。研究和日常经验都表明,模型对输入内容的开头和结尾最为关注,而中间部分可能只是一扫而过。40 页文档中第 23 页上的关键细节,恰恰最容易被漏掉。
- 桌面越满,成本越高。在按用量计费或限额的套餐和工具中,每次回复都会重新读一遍整个对话。臃肿的对话会更快耗尽你的额度。
上下文窗口、记忆与项目的区别
这三者经常被混为一谈,所以值得把它们分清楚。
- 上下文窗口:模型此刻在这个对话中能看到的内容。
- 记忆功能:部分助手在不同对话之间保存的关于你的信息,比如你的公司名称。相关时它们会被重新放回桌面,所以同样会占用空间。
- 项目(以及自定义 GPT 或 Gems 等类似功能):一组保存好的指令和文件,在该项目的每个对话开始时都会被放到桌面上。Claude 关于什么是 Projects 的帮助文章将其描述为一个拥有自己知识库的独立工作空间。
这些功能都不会让 AI 的桌面变大。它们决定的是什么内容最先放到桌面上。想并排比较这些项目类功能,请看我们对 Custom GPTs、Claude Projects 和 Gemini Gems 的比较。
触及极限的四个信号
- 助手无视你一开始定下的规则(“报价一律用欧元”),又回到了默认做法。
- 它推翻了你们在同一个对话中早些时候共同做出的决定。
- 长文档的摘要把开头和结尾部分概括得很好,但对中间部分要么一笔带过,要么出错。
- 回复变得更慢、更笼统,或者开始编造细节。最后这个症状与幻觉有重叠,我们在AI 幻觉新手指南中有详细解释。
这些信号都不代表工具坏了,只说明桌面太乱了。
保持桌面整洁的五个习惯
1. 一个任务,一个对话
在一个对话里写简报,在另一个对话里写催款提醒。简短、聚焦的对话更快、更省钱,也更准确。这是清单上最有效的一个习惯。
2. 重新开始前先写一份交接说明
当一个长对话开始跑偏时,可以这样要求:“用不超过 200 个字总结我们已经做出的决定、尚未解决的问题以及当前的草稿。”把结果复制到新对话中继续。这样既保留了进度,又甩掉了杂乱。
3. 把固定信息放进项目,而不是聊天里
你的服务、价格、语气风格和标准政策应该写在项目指令中。这样它们总会最先出现在桌面上,处于模型最关注的位置。
4. 只提供相关页面,而不是整个文件
如果你的问题是关于解约条款,就粘贴解约条款。如果必须上传长文档,就告诉助手去哪里找:“答案在第 7 节。”
5. 在结尾重复关键指令
对于较长的请求,把绝对不能遗漏的那一点在最后一行再说一遍:“记住:价格用欧元,折扣不超过 10%。”由于模型非常看重输入的结尾部分,这个简单的重复可以避免很多错误。
关于隐私的提醒
按照定义,桌面上的所有内容都会被发送给 AI 服务商进行处理。在把客户的完整档案粘贴到对话里“提供上下文”之前,先想想助手是否真的需要全部内容。我们对锁定对话、Temporary Chat 和 Claude 无痕模式的比较,解释了哪些设置能让这些资料不进入历史记录和训练数据。
今天的第一步
打开你的 AI 助手,找到持续时间最长的那个对话。用习惯 2 中的提示词让它写一份交接说明,再用这份说明开启一个新对话,然后比较下一次回复的质量。大多数人马上就能感受到差别。理解这一点之后,下一个值得学习的概念是 MCP,一种让 AI 读取你其他应用的连接器,它能直接读取,而不必依赖你粘贴的内容。
这四个警示信号中,你在自己的 AI 对话里见过哪一个?



