大型语言模型(LLM)是经过大量数据训练、用于处理和生成语言的机器学习模型。收到问题或草稿等输入后,模型会生成可能的后续文本或改写内容。根据模型和应用程序,LLM 可以用于摘要、起草、分类和回答问题。Google Cloud 的生成式 AI 术语表将 LLM 说明为以文本为主、经过大量数据训练的基础模型。
LLM 如何生成响应
应用程序把输入发送给模型,通常还会提供指令和对话上下文。模型将文本处理为 Token,再根据学到的模式和收到的上下文生成内容。应用程序随后可以展示、检查或转发结果。有些模型也能处理其他类型的输入,但功能因模型而异;LLM 不会自动读取企业记录或连接互联网。
企业应用示例
以下示例仅用于说明:团队可以用 LLM 起草一段客服对话摘要,再由员工对照原文,确认后才将摘要加入工单记录。模型负责整理初稿;应用程序和员工决定提供哪些信息以及下一步如何处理。
LLM、RAG 和 AI 智能体
LLM 是处理和生成语言的模型。RAG 会检索外部资料,再将资料提供给模型参考。AI 智能体则是更完整的应用程序,在任务流程中使用模型,并可能调用已配置的工具。模型本身不是数据库、最新事实的可靠来源,也不是智能体。可阅读RAG 说明和AI 智能体说明。
需要了解的限制
LLM 可能用肯定的语气写出错误、遗漏或缺少依据的内容。响应会受到提示、上下文、模型和系统配置的影响。如果应用程序没有提供近期资料,模型未必掌握最新信息;它也不会像业务负责人那样理解业务规则。处理重要任务时,应提供合适的资料来源、测试任务、保护敏感输入,并在采取行动前审核结果。
如需了解服务范围,可以查看 technine.io 的AI 与智能系统服务。
常见问题
向 LLM 提问时,它会搜索互联网吗?
模型本身不会。产品可以将模型连接到搜索或其他资料源,但取决于应用程序及其配置。
LLM 会用肯定语气给出错误回答吗?
有可能。文字流畅不代表内容正确。涉及决策或记录时,应核对原始资料。
LLM 就是 AI 智能体吗?
不是。LLM 是模型;智能体则是在工作流程中使用模型,并可能调用已配置工具的应用程序或系统。
主要资料来源:Google Cloud:生成式 AI 术语表
