目前,存在两种主要类型的大型语言模型(LLM)应用。第一种是“检索增强生成”(Retrieval Augmented Generation,简称 RAG)。第二种是 AI 智能体。
检索增强生成(RAG)是一种利用像 Milvus 这样的向量数据库进行语义搜索的大型语言模型应用,也可以是任何向量数据库。
AI 智能体是可以利用 AI(通常是大语言模型)的应用程序。最常见的工作方式是提供一组函数及其使用说明,并使用大语言模型来决定是否、何时以及如何使用这些函数。
使用 LlamaIndex或LangChain,我们以“工具”的形式提供这些函数,并通过工具元数据提供说明。