第一个我觉得还是蛮牛的,就是LangChain官方和一些主流模型厂商合作,行成一个专属的封装类,而且是官方和厂商一起维护。主要还是国外的那些大厂比如openai,anthropic,google等。需要说明的是国内一些模型比如deepseek使用的是openai协议的兼容模式。
我觉得这个接入方式牛是因为它能完整支持模型的原生特性,也就是使用openai封装类接入ChatGPT后模型能发挥的更好。这种方式使用的是langchain-openai下的ChatOpenAI函数,传入一些必要的参数就能实例化一个模型出来。
第二种方式是LangChain 1.x之后出的统一初始化工具,调用函数是 init_chat_model。它的好处就是灵活了,只需要传入模型名称和API Key就能简单快速的实例化一个模型。
第三种方式我觉得也很有意思。就是接入一个本地私有化模型,我觉得这个方式企业里应该用的比较多。常见的是通过Ollama软件接入,有一个ChatOllama类可以连接本地模型。
我之前部署过deepseek本地模型,使用的就是Ollama,简单理解就是它是一个模型加载器,下载的开源模型通过它可以运行。当然本地部署不只有Ollama,只是我只懂这个。
今天使用LangChain框架和大模型进行了单次交互,代码可以简单的运行起来了,没有报错,Codex写代码还是可以的,其实简单的摸索了一下代码逻辑。对它写的代码有一点点概念,还得继续跟它交互。
我让AI评价了一下我写的内容,写的确实不好,很多东西让人混淆,这三种方式不是固定选择,是按需选择。还有一种特殊的接入方式是接入中转站模型,中转站又可以接入各种模型了。
