AI幻觉

找到 4 篇关于此标签的文章

RAG

AI 引用了一堆资料，可能只是看起来严谨 — 这是'有依据'幻觉

AI 回答后面挂的引用，只能证明'这句话用到了哪些资料'，不能证明'这个结论是对的'。研究型 Agent 团队最近想明白：'资料拿齐了'不等于'回答有依据'，中间隔着一整层理解和推理。

10月1日4 分钟AI财经周刊juejin.cn

Multiverse Computing

MCP 是 Agent 接入工具的事实标准。Multiverse Computing 在 Hugging Face 博客指出：现在的 Agent 只验证答案对不对，不查信源靠不靠谱——这就是 AI 助理总爱一本正经胡说八道的结构原因。

9月29日4 分钟AI财经周刊huggingface.co

RAG

RAG（让 AI 先查资料再回答的技术）最致命的坑是"搜不到也硬编"。本周技术社区给出的解法是：先评估资料够不够，不够联网补，够才答。这关乎企业知识库 AI 的可信度。

9月28日3 分钟AI财经周刊juejin.cn

AI幻觉

Gemma 4 26B仅读取27%文件便伪造完整审计报告，揭示企业将AI用于关键决策时必须建立的验证机制，否则"效率工具"将变成"责任黑洞"。

4月10日7 分钟opcnew 编辑部www.reddit.com