员工需要在多个地方反复搜索
制度、操作手册、案例记录和产品信息可能分散在共享网盘、业务系统和数据库中。
企业 RAG 与 AI 知识系统
把经批准的文档、数据库和内部系统接入 AI 助手。每次查询先按用户权限筛选数据,再检索相关内容,并在回答中列出来源,方便团队核对。
RAG 可以减少缺乏依据的回答,但不能保证每个答案都正确。我们会根据业务风险设置引用、拒答、评估和人工复核规则。
数据流程示意
只有用户有权查看的信息,才会进入本次检索和模型上下文。
查询带有已验证的身份和角色信息。
检索前先应用数据源和租户筛选条件。
语义和关键词搜索找出相关段落,再调整排序。
助手根据检索到的内容回答,并列出引用来源。
现行流程要求发布前获得批准。[1] 例外情况需按既定路径上报。[2]
贯穿全流程的控制
回答规则
回答 · 拒答 · 转人工处理
企业知识通常分散在不同文档和系统中,数据负责人、更新时间和访问权限也各不相同。知识助手要用于日常运营,必须先处理这些实际问题。
制度、操作手册、案例记录和产品信息可能分散在共享网盘、业务系统和数据库中。
如果系统没有处理删除、替换和重新建立索引,回答可能继续引用过时文档。
当部门、客户或租户的权限存在差异时,一个不区分权限的搜索索引并不足够。
如果缺少代表性问题和预期证据,团队很难判断检索质量是提高了,还是仅仅发生了变化。
建议先选择一个能明确界定数据、用户、权限和复核责任人的流程。以下是常见起点,并非预制产品。
帮助员工找到现行指引,并在执行前打开引用段落核对。
检索经批准的故障排查、服务和产品信息,遇到例外情况时转交人工跟进。
从持续维护的目录、规格和经批准的商业资料中回答详细问题。
按岗位提供相关流程,同时避免显示与工作无关的内部内容。
围绕一个明确的运营问题,整合可访问的文档、数据库记录和 API 结果。
评估不只看回答措辞,也要检查系统选择了哪些证据。试点开始前,我们会先确定测试问题、失败处理方式和复核负责人。
检查检索段落能否支持回答,以及引用是否指向正确章节。
根据实际业务准备常规、模糊、过时和带有误导性的问题。
当授权数据无法支持回答时,助手应拒答或转交指定人员处理。
确认用户无法检索或推断其岗位、机构或记录范围以外的内容。
测试更新、删除、替换和重新建立索引,避免系统继续使用已废止内容。
在约定的服务范围内监测检索质量、响应时间、模型用量和成本。
权限场景示意
用户身份、数据负责人和查询时筛选会共同生效。模型只应收到该用户针对此次查询有权检索的信息。
运营经理 · 已验证员工角色
现行运营流程和经批准的产品手册
人事文件和职责范围以外的客户记录
仅根据授权段落回答,列出引用来源并保留审计记录
技术架构
实际组合取决于文档质量、更新频率、语言、数据规模、响应速度和部署要求。以下模式会按用途选用,不一定全部需要。
自动 ETL 流程可处理 PDF、DOCX、JSON 和 API payload,配合版面感知 OCR、metadata 提取,以及 recursive 或 sliding-window 分段。每项数据同时保留负责人、版本和权限信息。
稠密向量检索可按需采用 HNSW 或 Flat 索引,以及 cosine 或 inner-product 距离。BM25 负责关键词匹配,再通过 Reciprocal Rank Fusion 合并候选结果。
Cohere Rerank 或 BGE-Reranker 等次级模型,可在组合 prompt 前对 top-k 候选内容重新排序,减少无关上下文和不必要的 token 用量。
企业身份系统可通过 OAuth2、SAML 或 Active Directory 接入。查询时的 metadata 筛选会先应用租户、角色和文档规则,再把文本加入模型上下文。
版本化测试问题、检索记录、引用检查、审计日志、数据更新任务和用量监测,让上线后的变化可以追踪和复核。
OpenAI、Claude、DeepSeek 和 Qwen 可作为生成或推理模型的评估选项。选择时要结合部署方式、供应商条款,以及模型在约定测试问题中的实际表现。
工具集成、模型能力和企业控制
长上下文和文档量较多的流程
需要评估成本和部署安排的场景
需要评估中文表现和部署安排的场景
选择标准
试点应集中测试一个实际流程,并使用真实权限和有代表性的问题。明确证据、失败处理和运营负责人后,再逐步扩大使用范围。
梳理用户、问题、系统、数据负责人、敏感程度和更新方式。
接入已批准的数据,打通一个有实际用途的用户流程。
衡量证据相关度、引用、拒答、权限规则和回答质量。
集成身份验证、应用、API、复核队列、日志和支持流程。
扩大范围前,先检查数据变化、失败问题、用量、响应时间和成本。
RAG 改变的是查找和呈现证据的方法,不能取代对数据质量、权限或业务决策负责的人员。
FAQ
RAG 会先从经过授权的数据源中检索相关内容,再把这些内容交给 AI 模型作为回答依据。这让答案更容易追查,但不代表每次回答都正确。
项目可以按需求处理 PDF、DOCX、结构化数据、数据库、API 和现有知识库。每类数据源都需要适合的解析、元数据、更新、删除和权限处理。
可以,但需要正确映射身份、源数据权限、元数据和索引边界,并经过测试。具体方案取决于企业的身份系统、数据仓库、租户模式和部署环境。
不能。数据质量、文档解析、检索设置、权限信息和模型行为都会影响结果。我们会根据约定场景设置引用、拒答、评估、日志和人工复核机制。
系统可以按需求接入 OpenAI、Claude、DeepSeek 或 Qwen 等服务。实际模型和供应方式会根据语言、数据政策、部署、响应时间、成本和集成要求确认。
准备一小批有代表性的问题、相关数据源,以及应该拥有访问权限的人员。我们可以共同明确数据边界、试点范围和判断效果所需的证据。
第一步是讨论实际范围,不会预先假设 AI 可以取代业务流程负责人。
