LangChain支持哪些模型？

LangChain 到底支持哪些模型？一句话讲清楚

LangChain 对模型的支持范围极广，几乎覆盖了当今所有主流的 LLM（大语言模型），从 OpenAI、Anthropic 到开源社区的 Llama、Mistral，以及国内的通义千问、文心一言等，都能通过其统一的接口调用。本质上，LangChain 是一个模型“适配器”而非模型本身，它通过 ChatModel（对话模型）和 LLM（文本补全模型）两类抽象，让你只需换一行代码就能切换底层模型。

一、LangChain 是什么？先搞清楚对象

在深入模型支持前，有必要明确：LangChain 是一个 AI 应用开发的开源框架，由 Harrison Chase 于 2022 年创建，目前由 LangChain 公司（美国）维护。它的核心价值不是训练模型，而是提供一套工具链，让你把 LLM 与外部数据、API、数据库等连接起来，构建复杂的 AI 应用（如 RAG、Agent、聊天机器人等）。

收费方面：LangChain 框架本身是 完全开源免费 的（MIT 许可证），但 LangChain 公司也提供托管服务 LangSmith（用于调试和监控）和 LangServe（部署），这些有付费计划。官网：https://www.langchain.com。

二、模型支持全景图：按类型分类

LangChain 的模型支持通过“集成包”（Integration Packages）实现，官方文档维护了一个庞大的列表。我把它整理成几大类：

1. 云端闭源大模型（最常用）

• OpenAI 系列：GPT-4o、GPT-4-turbo、GPT-3.5-turbo 等。通过 ChatOpenAI 调用，支持函数调用、流式输出。
• Anthropic 系列：Claude 3 Opus/Sonnet/Haiku。通过 ChatAnthropic 调用，长上下文能力强。
• Google 系列：Gemini 1.5 Pro/Flash、PaLM 2。通过 ChatGoogleGenerativeAI 调用。
• Mistral AI：Mistral Large、Mistral Small。通过 ChatMistralAI 调用。
• Cohere：Command R+、Command R。通过 ChatCohere 调用。
• 国内模型：通义千问（阿里云）、文心一言（百度）、智谱 GLM、月之暗面 Moonshot、DeepSeek 等。均有对应集成包，如 ChatTongyi、ChatZhipuAI。

2. 开源/本地部署模型

• 通过 Ollama 支持：这是最便捷的方式。Ollama 本地运行 Llama 3、Mistral、Qwen 2、Phi-3 等，LangChain 通过 ChatOllama 调用。
• 通过 Hugging Face 支持：使用 HuggingFacePipeline 或 HuggingFaceEndpoint，可调用数千个开源模型（如 Llama 2、Falcon、Bloom）。
• 通过 vLLM / TGI 支持：适合生产环境的高性能推理，LangChain 提供 VLLM 和 TextGenerationInference 集成。
• 通过 llama.cpp 支持：轻量级本地推理，支持 GGUF 格式的量化模型。

3. 嵌入模型（Embedding Models）

LangChain 同样支持大量嵌入模型，用于向量化文本（常见于 RAG 场景）：

• OpenAI Embeddings（text-embedding-3-small/large）
• Hugging Face Embeddings（如 all-MiniLM-L6-v2）
• Ollama Embeddings（如 nomic-embed-text）
• 百度千帆、阿里通义等国内嵌入模型

三、如何选择？一张表格对比主流模型

四、实操：在 LangChain 中切换模型有多简单？

以 Python 为例，你只需要修改一行导入和初始化代码：

使用 OpenAI：
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o")

切换到 Anthropic：
from langchain_anthropic import ChatAnthropic
llm = ChatAnthropic(model="claude-3-sonnet-20240229")

切换到 Ollama 本地模型：
from langchain_ollama import ChatOllama
llm = ChatOllama(model="llama3.1")

这种“插拔式”设计正是 LangChain 的魅力所在——你的应用逻辑（Chain、Agent、Retriever）完全不变，只换模型实例即可。

五、注意事项与避坑指南

• 模型不是越多越好：LangChain 支持数百个模型，但实际开发中建议只维护 2-3 个常用模型（如一个强模型、一个轻量模型、一个本地模型），避免测试混乱。
• 函数调用能力差异大：OpenAI 和 Anthropic 的函数调用最成熟，开源模型（如 Llama 3）虽然支持但效果参差，需要测试。
• 国内模型需注意合规：调用通义千问、文心一言等需要申请 API Key 并通过内容审核，部分模型可能不支持流式输出。
• 版本兼容性：LangChain 0.3.x 版本后，模型集成被拆分为独立包（如 langchain-openai），需要单独安装。

相关问题

• LangChain 和 LlamaIndex 有什么区别？ LlamaIndex 更专注于数据索引和 RAG，LangChain 则偏向 Agent 和复杂工作流编排。
• LangChain 支持多模态模型吗？ 支持，通过 ChatOpenAI 等接口可以传入图片、音频等多模态输入，但能力取决于底层模型。
• 如何让 LangChain 调用本地 GPU 模型？ 推荐使用 Ollama 或 vLLM 部署模型，然后通过 ChatOllama 或 VLLM 集成。
• LangChain 的模型调用有速率限制吗？ 框架本身没有，但底层 API 有，你可以用 RateLimiter 回调或第三方库控制。
• 国内能直接使用 LangChain 调用 OpenAI 吗？ 可以，但需要自行解决网络问题，或通过国内代理服务中转。