LangChain 本地部署与数据去向：3 条路径怎么选

LangChain 只负责把组件串起来，数据去向由你挂上去的模型、向量库和监控服务决定。本文给三条可照做的本地部署路径，并逐个标出内容可能在哪一步离开你的机器。为什么是现在：2026-10-23 生态里一份适配器文档把本地推理压缩成”改三处 import”，而截至本次抓取，langchainjs 仓库已有 18.3k star、8,264 次提交，官方列出的 Node.js 支持版本是 20.x、22.x、24.x。下文凡标「我的判断」的属我据来源推导，其余均出自文末列出的来源原文。

前置条件：三条命令把环境装起来

缺任何一步，后面三条路径都走不通，先把这三条执行掉：

1. 装 Node.js 20.x / 22.x / 24.x 中的任意一个（这是官方 README 在 Supported Environments 里列出的版本），装完在终端跑 node -v，版本号不在 20/22/24 之内就先换 Node 再往下走。
2. 建项目目录并安装编排框架本体，官方 Quick Install 原文给出三种等价写法，任选其一：

npm install -S langchain
# 或
pnpm install langchain
# 或
yarn add langchain

3. 走路径一（Ollama）之前先把本地推理引擎装好，阿里云教程里 Linux 的原文命令是：

curl -fsSL https://ollama.com/install.sh | sh

Windows 用户按同一篇教程的说法是去 Ollama 官网下安装包，装完启动服务再继续。

三条路径怎么选

选择上我的判断是：要彻底断网、连存储也不想上云，走路径二；已经在云上有向量库、只想把模型和 embedding（把文字转成一串数字向量，用于相似度检索的步骤）留在本机，走路径一；只想最小改动、连基础设施都不想搭，走路径三。注意路径三说的”本地”是浏览器内推理，路径一说的是本机常驻服务，两者离线程度不一样——完全没网时浏览器内推理还能用，依赖云账号的向量库就不行了。

路径一：Ollama 起本地模型，数据不出计算环节

按阿里云教程的顺序执行：先跑上面第 3 步的安装命令，启动服务，再拉两个轻量模型——mxbai-embed-large 负责 embedding，llama3 负责回答。之后由 LangChain 把整条链串起来，教程给出的流程是”读文档→转向量→存数据库→查数据→让大模型回答”。这一步里 LangChain 扮演的是”线”，它自己不存任何东西。

但要留意一处口径：来源写得很清楚，用的是”阿里云 PolarDB”和”阿里云 Lindorm”，都是阿里云托管的数据库服务。所以这条路径的”数据全自己把控”，实际含义是数据不出你的私网和云账号，而不是不出你的电脑。我的判断：如果合规要求是”数据不出机房物理边界”，这条路径不合格，得换成进程内向量库；如果要求是”不给第三方模型厂商看”，这条路径是达标的。

成功标志：整条链能从头跑到尾，且全程没有填过任何云端模型的 API key。

路径二：HuggingFacePipeline 直接当 ChatModel

TU Wien 的课程 notebook（2025-03-25）里给出的关键事实是：HuggingFacePipeline 这个类实现了 ChatModel 接口（ChatModel = LangChain 里”接收对话消息、返回回复”的模型抽象）。它同时提到，即使你用的是远程托管的 LLM，也是走同一套接口。我的判断：接口统一意味着本地与远程只是实现不同，你的 chain、retriever 不用改结构，换实现即可——这正是三条路径里对现有代码侵入最小的一条，代价是权重文件要自己下载、推理在自己进程里跑，能开多大的模型完全由这台机器决定。

成功标志：该对象能被当作 ChatModel 传进已有的对话链并返回结果。

路径三：改三处 import 接本地推理

LocalMode 2026-10-23 的文档给出的是一套即插即用的替换类：LocalModeEmbeddings 顶替 OpenAIEmbeddings，ChatLocalMode 顶替 ChatOpenAI，LocalModeVectorStore 顶替 PineconeStore。原文的说法是改三处 import 后整个应用就能本地运行，且已有的 chains、retrievers、agents 无需改动，因为适配器实现的是标准 LangChain 接口（import = 代码顶部把外部包里的类引进来的那几行）：

// 变更只发生在 import 与类名（类名与包名来自 @localmode/langchain 官方文档）
import { LocalModeEmbeddings, ChatLocalMode, LocalModeVectorStore } from "@localmode/langchain";

const embeddings = new LocalModeEmbeddings();   // 原来是 new OpenAIEmbeddings()
const chat = new ChatLocalMode();               // 原来是 new ChatOpenAI()
const vectorStore = new LocalModeVectorStore(); // 原来是 new PineconeStore()

成功标志很干脆：全程不填任何 API key，原有链路代码一行不改。我的判断：这条路径最省事，但推理发生在浏览器里，离线能用的模型规格受客户端机器限制，不适合放在服务端跑批量任务。

数据去向：四个出口，逐个关掉

把三条路径放在一起看，内容离开你控制范围的出口只有四个，每个都配一个能立刻执行的确认动作：

1. 模型推理请求。确认动作：把云端模型类换成本地实现后，运行配置里不再出现任何 API key——LocalMode 文档对这条的承诺原话是 “zero API keys”。
2. embedding 请求。确认动作：搜一遍代码里的 OpenAIEmbeddings，路径一换成 mxbai-embed-large 这类本地方案，路径三换成 LocalModeEmbeddings。
3. 向量库。确认动作：搜 PineconeStore，云端托管库换成本地库或你自己账号下的 PolarDB / Lindorm——后者不出你的账号，但仍出你的机器。
4. LangSmith 监控。官方 README 把它列为统一平台，承担 debug、evaluation 和生产可见性。我的判断：这是官方生态里默认路径之外的一条托管出口，只要启用，run 的数据就会离开你的机器，上线前需要单独决定开不开，而不是默认跟着装。

最常见的卡点也是这四个出口没关干净：装了 langchain 却仍在调云端模型——langchain 本体只是编排层，模型与向量库的类必须逐个替换才生效；Node 版本不在 20/22/24 之内——先 node -v 确认再装包；把”本地”当成单一概念——浏览器内推理与本机服务的离线能力不同，按上面的对照表挑。

参考来源

• LangChain.js 官方仓库 README（安装命令、支持环境、生态与快照数据）
• libs/langchain 目录页与 README（Quick Install 与 Supported Environments 原文）
• LangChain 官方文档入口（仓库 Resources 里给出的文档地址）
• LangChain.js With Local Inference（2026-10-23）（三处 import 替换方案）
• D3_01_Prompting_with_LangChain.ipynb（2025-03-25，TU Wien 课程材料）（HuggingFacePipeline 实现 ChatModel 接口）
• 手把手搭本地 RAG：Ollama + PolarDB / Lindorm + LangChain（2025-09-17，中文社区视角）（安装命令与整条链路流程）