Percepta 这周抛出一个新架构 Spotlight,号称「记忆可以无限增长,而模型权重不需要变」 — 这是过去几年大模型公司一直想解决、但没人真正解决的老问题。但编辑部先泼一盆冷水:目前只有博客,没有代码、没有基准测试成绩 — 我们的判断是:先看着,别激动。

这是什么

Percepta 的核心思路是:把模型的「记忆」和「智能」彻底分开。

现在主流的大语言模型(ChatGPT、文心一言等)有个老问题:模型越大,记得越多,但每次推理要把所有知识扫一遍,计算成本跟着涨。Spotlight 想打破这个两难 — 脑子(负责计算的模块)大小不变,记忆可以无限扩容,每次读取只触碰极少量的记忆单元。

更关键的是,Percepta 说这套记忆不仅能存「事实」,还能存「技能」。模型可以通过写入新记忆获得新能力,不需要重训(用新数据重新训练整个模型)。

行业怎么看

编辑部关心三点。

第一,「无限增长记忆」这种话术在研究圈并不少见。OpenAI、DeepMind 都在探索类似方向,目前没有任何一家做出可工业部署的版本。Percepta 只发了博客,没有开源代码、没有基准测试成绩。

第二,反对意见来自更务实的工程师:业内解决「让 AI 记住东西」的主流方案是 RAG(检索增强生成,简单说就是让 AI 查外部数据库而不是全装在脑子里)。它成本低、好部署。Spotlight 想从架构层面颠覆这条路径,需要证明它真的比 RAG 好用十倍以上。

第三,Percepta 自称「任意稀疏」是相对 MoE(混合专家架构,一种只在需要时调用部分模型参数的方案)说的。但 MoE 已经在 GPT-4、Mixtral 等成熟产品里跑了几年,Spotlight 还停在博客阶段。

对普通人的影响

对企业 IT:暂时不需要行动。这还停留在论文阶段,离可采购产品至少有 1-2 年。

对个人职场:现阶段没什么影响。你用的 ChatGPT、文心一言不会因为这项研究突然变聪明。

对消费市场:暂时没有信号。真正的变化要等有人把这套架构跑成产品。