这是什么

本周掘金上一篇技术长文抛出一个反直觉的结论:大模型的上下文窗口(Context Window,可以理解为 AI 一次能"看见"的文字总量)即便开到 128K,往里塞 20K 内容,AI 反而开始答非所问 — 窗口从来不是越大越好。 文章拆解了三层原因:注意力被稀释(信息越多,关键指令越被忽略)、系统提示词(System Prompt,即给 AI 的"角色说明书")被淹没、上下文污染(无关历史干扰当前判断)。一句话总结:窗口是容量上限,不是推荐用量 — 桌子能放 100 本书,但堆满反而找不到要用的那本。 由此催生了一个新工种:上下文工程(Context Engineering),核心任务是"在窗口内,用最少的 token(模型计费的最小文字单位)装下最关键的信息",包括 token 预算分配、历史对话压缩、长文档切片等。

行业怎么看

我们注意到一个信号:几家头部大模型公司近半年都在公开招聘"上下文工程"相关岗位,密度高于往年。这门技术被普遍视为下一阶段的产品分水岭 — 参数(模型大小)已经卷到边际收益递减,谁能让 AI 在长对话、长任务里保持稳定,谁就能在企业市场拿到合同。 但反对意见也存在。一派研究者认为,专注上下文工程是"治标不治本" — 真正的解法应该是模型架构本身的进步,比如更高效的长文本注意力机制。如果行业都去堆工程,底层创新会被拖延。另有从业者指出,目前业界缺乏统一的"上下文质量评估标准",大家各自摸索,重复造轮子。

对普通人的影响

对企业 IT 来说,采购 AI 产品时不能只看"支持多少 K 上下文",要追问实际在长任务里的表现 — 很多产品宣传的窗口是理论上限。 对个人职场而言,"提示词工程师"之后可能会出现"AI 上下文架构师"这类岗位,懂业务又懂 token 预算的人会很值钱。 对消费市场则是个提醒:你用的 AI 助手"聊久了就变笨",大概率不是 bug,是工程上的取舍。