LangChain 的这套方法每次从示例库中选出最相似的 3 条评论,再拼入提示词交给大模型。它把提示词从固定文本变成可按任务组装的输入,值得关心的是:大模型落地不一定要靠训练,检索与编排往往更实际。

这是什么

少样本学习,是先给模型少量格式和规则示例,让它模仿完成任务,而不是重新训练。动态示例选择,则在每次收到输入后,先判断哪些示例最相关,再决定把哪些内容放进提示词。

示例中的具体做法是:用 bge-large-zh-v1.5 将文字转换为向量,存入 Chroma 向量库,再检索语义最接近的 3 条示例。所谓向量库,可以理解为按“含义”而非关键词查找资料的系统。最终,大模型收到的不是原始示例全集,而是任务说明、3 条参考示例和待判断内容。

行业怎么看

我们认为,它的价值首先是工程上的:示例库可以持续扩充,不必重写提示词;只携带相关内容,也能减少输入长度和模型调用费用。对评论分类、客服分流、表格抽取等规则相对稳定的任务,这通常比训练新模型更轻。

但这不等于模型能力被“自动补齐”。示例选错、标签本身含糊或库中覆盖不足,都会让提示词失真;相似度高也不代表答案相同,例如“价格贵”和“物流慢”都可能涉及负面情绪,却对应不同判断维度。示例中的 bge-large-zh-v1.5 还需在本地 CPU 上运行,示例库扩大后,检索延迟、存储和运维都会增加。企业仍需用真实样本测试准确率,并监控选中的示例是否合理,不能把“检索到了 3 条”当成“模型答对了”。

对普通人的影响

对企业 IT:传统企业不必先建设训练团队,也能把内部经验、审核规范和历史案例转化为模型参考。不过,这套方法仍需要维护示例库、嵌入模型和评测数据。

对个人职场:员工写需求、客服做分类时,可从固定模板转向按具体问题调取范例。提示词的编写、审核与结果检查,可能因此成为新的工作内容。

对消费市场:更相关的示例可能改善分类、推荐和客服回复的针对性,但用户仍难知道系统依据了哪些内部案例,错误判断也会更流畅地出现在服务过程中。