从简单到复杂:主动式RAG提升应用智能

云的事情不好说 2024-07-29 03:19:50

常规 RAG(Retrieval-Augmented Generation) 方法非常简单,但是效果有限。它们只能根据最初提出的问题检索一些最顶层的信息片段。在许多企业情况下,那个最初的问题只是一个开始。为了完全理解并解决问题,需要更多的信息和背景。

常规 RAG 无法检索更多细节,无法从多个来源整合信息,或者执行多步骤流程和规划。它只是获取一些相关片段,然后就停止了。但企业面临的是复杂场景,简单 RAG 无法胜任。

主动式 RAG(Agentic RAG) 通过引入基于智能体的框架,彻底改变了问题的回答方式。与仅依赖大型语言模型 (LLMs) 的传统方法不同,主动式 RAG 利用智能体来解决负责问题:复杂计划(Intricate planning)、多步骤推理(Multi-step reasoning)。

主动式 RAG 允许 AI 系统进行迭代推理——理解完整的上下文,通过来回对话收集缺失信息,根据需要调用外部数据源和 API,并整合多部分解决方案,以细致和定制化的方式解决核心问题。

这种迭代推理能力对于企业处理跨领域的复杂用例至关重要。这就是为什么许多企业选择采用主动式 RAG 而不是常规 RAG。

主动式RAG解决方案可以包括像 LlamaIndex、LangChain 等 AI 框架,以及一个向量数据库,如 Milvus 等等。



0 阅读:4

云的事情不好说

简介:感谢大家的关注