technine.io
示意图展示系统先从知识来源检索相关段落,再由语言模型整理答案。

指南

RAG 是什么?如何用外部资料支持 AI 回答

RAG 会先从外部资料源检索相关内容,再交给语言模型参考。了解检索与生成如何配合,以及引用资料为何不代表答案一定正确。

更新于

检索增强生成(RAG)会先从外部资料源找出相关内容,再交给语言模型参考并生成回答。这种方法将检索与文本生成结合起来,让响应能够使用模型参数之外的指定资料。RAG 的原始研究论文将这种方法描述为让模型访问明确的非参数记忆。

RAG 如何工作

系统先整理资料以便搜索,常见做法是把文档拆分成段落并建立索引。收到问题后,检索流程会搜索可能相关的内容。应用程序把问题和选出的段落交给语言模型,由模型起草回答;有些系统还会显示资料来源。每个环节都会影响结果,包括文档权限、索引、搜索、段落选择以及给模型的指令。

企业应用示例

以下示例仅用于说明:内部政策助手可以搜索一组已批准的现行流程文档,并附上找到的段落链接,起草回答。遇到特殊情况时,员工先核对原文再采取行动。这是一种可能的系统设计,并非经过衡量的成效。

RAG、模型训练和 AI 智能体

RAG 会在收到请求时提供相关资料;微调通过额外训练改变模型参数,预训练则让基础模型学习广泛模式。因此,RAG 不会训练模型的新参数;更新资料库也不代表每次回答都会引用最新或正确的段落。AI 智能体可以把 RAG 作为一种工具,但仅有检索并不等于智能体。可阅读什么是 LLM和AI 智能体如何工作。

RAG 的限制

如果来源文档缺失、过时或彼此矛盾,RAG 无法让资料变得可靠。搜索可能找到无关段落,模型也可能误解内容,或生成来源并未支持的说法。显示引用有助于核对资料来源,但不能证明回答完整或正确。企业应控制可搜索的来源,及时维护内容,测试常见问题,并在证据不足时明确提示。

如需了解服务范围,可以查看 technine.io 的企业 RAG 与知识系统服务。

常见问题

RAG 会训练 AI 模型吗?

不会。RAG 会检索外部资料,并在生成响应时将其作为参考。微调则通过额外训练更新模型参数。

RAG 能消除 AI 幻觉吗?

不能。相关资料可以为回答提供依据,但检索或理解仍可能出错。系统仍需评估、管理资料来源,并根据用途安排审核。

RAG 一定会显示引用吗?

不一定。系统可以检索文档,但不向用户展示。是否显示引用取决于应用程序设计;读者应能打开来源核对内容。

主要资料来源:Lewis 等人:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

咨询WhatsApp
RAG 是什么?如何用外部资料支持 AI 回答 | technine.io