Ollama 入门实战:4 步跑通本地模型并验证成功
Ollama 是本地大模型运行工具,可通过命令行拉取模型并完成对话。2026 年 2 月 4 日更新的实践清单把首次配置压缩为安装、启动、拉取模型和测试对话四步;现在按这四步操作,可以在写客户端代码前先确认本机推理链路正常。
开始前:把环境一次配齐
本地链路需要一台能运行 Ollama 的电脑、足够的磁盘空间和可用内存。磁盘用于保存模型,内存用于加载模型;教程提供的操作清单建议首次先拉取较小模型,避免模型过大导致内存不足。
- 安装命令行工具:macOS 或 Linux 执行
curl -fsSL https://ollama.com/install.sh | sh;其他系统进入 Ollama 下载页选择对应安装包。安装后运行ollama --version,能够打印ollama version 0.x.x才算完成。 - 准备两个终端:第一个用于保持服务运行,第二个用于执行模型命令。模型文件会占用磁盘空间,下载前应确保系统盘有足够余量。
- 决定是否使用云模型:本地运行不需要在示例中登录;需要云端模型时,再执行
ollama signin完成一次性登录。普通用户先跑通本地链路即可,不必一开始配置云端密钥。
第 1 步:安装并确认 CLI 可用
在 macOS 或 Linux 终端执行:
curl -fsSL https://ollama.com/install.sh | sh
这条命令来自 2026 年 2 月 4 日发布的 Local inference setup checklist。如果终端不接受命令,可改用 Ollama 下载页安装。
安装结束后单独确认,不要只看安装窗口是否关闭:
ollama --version
成功标志是输出中出现类似下面的内容:
ollama version 0.x.x
这里无需记死 0.x.x 的具体数字。版本号会随安装版本变化,关键是 ollama 命令能够被终端找到,并且输出 ollama version。
如果这一步没有输出,先确认安装程序是否已经结束,再重新打开一个终端。终端只会加载启动时已经存在的 PATH(系统用于查找可执行程序的环境变量)配置,因此安装前打开的窗口可能暂时识别不到新命令。
第 2 步:启动服务并检查端口
如果安装程序没有自动启动 Ollama,在第一个终端执行:
ollama serve
保持这个终端运行,不要关闭。成功时,界面应出现:
Ollama is running on http://localhost:11434
这里的 11434 是 Ollama 本地服务使用的端口。接着在第二个终端检查服务是否真的能响应:
curl http://localhost:11434/api/tags
这里不必先理解接口结构。空模型列表通常返回 JSON 形式的内容,重点是命令能够连接 localhost:11434,而不是出现连接拒绝。
首次拉取模型前,服务、端口和客户端都应先通过检查。否则后面看到生成失败时,很难判断是模型尚未下载,还是 Ollama 服务根本没有启动。
第 3 步:先拉一个小模型
在第二个终端执行:
ollama pull llama3.2:1b
下载完成后,用下面的命令确认本地已有模型:
ollama list
成功标志是列表中出现 llama3.2:1b。如果后续确实需要更高质量的结果,再考虑更大的模型:
ollama pull llama3.1:8b
两种模型的取舍应按机器资源决定:
| 选择 | 首次命令 | 适用场景 | 需要注意 |
|---|---|---|---|
| 小模型 | ollama pull llama3.2:1b |
验证安装、服务和对话链路 | 优先排除环境问题 |
| 更大的模型 | ollama pull llama3.1:8b |
需要更好回答质量 | 占用更多内存和磁盘 |
这是实践清单给出的操作建议,不是官方给出的性能排名:小模型更适合首次连通测试,大模型则可能遇到内存不足。不要同时下载多个模型后才开始排查,因为多个模型文件并不能证明 Ollama 是否已经正常工作。
第 4 步:发送第一条消息
模型已出现在 ollama list 后,执行:
ollama run llama3.2:1b
进入交互界面后输入一个容易观察结果的问题,例如:
用一句话解释什么是本地大模型。
成功标志有三点:终端进入对话状态、问题被回显、模型返回连续文字。输入 /bye 可退出交互会话;如果当前版本不接受该指令,可按终端提示或使用 Ctrl+D 结束输入。
只看到模型名称却一直没有输出,不算跑通。此时先回到服务终端检查 ollama serve 是否仍在运行,再确认客户端调用的模型名与 ollama list 中的名称完全一致。
常见卡点:先分清服务、权限和模型问题
本地链路最容易混淆的是端口冲突与权限问题。实践清单明确将这两类问题列为服务无法启动时的常见故障。
| 卡点 | 表现 | 对应处理 |
|---|---|---|
| 端口已被占用 | ollama serve 无法监听 11434 |
先停止占用该端口的旧 Ollama 进程,再执行 ollama serve |
| 服务权限不足 | 服务启动失败或无法绑定监听地址 | 不使用 sudo 盲目重装;关闭占用端口的程序,以当前用户重新启动 |
| 模型名写错 | 交互命令找不到模型 | 执行 ollama list,复制其中完整名称 |
| 模型占用过大 | 下载或加载时失败 | 先用 llama3.2:1b 验证链路,再处理内存与磁盘空间 |
| 客户端连不上 | curl http://localhost:11434/api/tags 无法连接 |
保持 ollama serve 所在终端开启,并检查请求地址和端口 |
如果 ollama serve 提示端口相关错误,可以先在第二个终端查询已有模型:
curl http://localhost:11434/api/tags
若这个请求能成功,说明服务其实已经运行,当前终端里的 ollama serve 是重复启动;若请求失败,再处理端口占用或权限问题。这样可以避免同时启动多个服务,却误以为模型本身有问题。
用 JavaScript 验证:命令行跑通后再接项目
终端对话正常,只能证明模型和本地服务可用。若准备把 Ollama 接入 JavaScript 项目,可使用官方 ollama-js 仓库提供的客户端库。
先安装依赖:
npm i ollama
然后创建最小调用:
import ollama from 'ollama'
const response = await ollama.chat({
model: 'llama3.1',
messages: [
{ role: 'user', content: 'Why is the sky blue?' }
],
})
console.log(response.message.content)
这段代码直接取自官方仓库 README。需要保持命令与文章中的模型口径一致:如果本机下载的是 llama3.2:1b,就把 model 改成相同名称:
model: 'llama3.2:1b'
成功标志是 Node.js 终端打印模型返回的文字。若提示找不到模型,先执行 ollama list;若提示连接失败,则检查 ollama serve 是否仍在运行。官方 JavaScript 库默认面向本地 Ollama 工作流,不要把命令行能生成答案与 JavaScript 能连接服务混为一件事。
成功标志与下一步入口
完成本文四步后,应同时看到四个可观察结果:
ollama --version输出ollama version 0.x.x。ollama serve显示服务运行在http://localhost:11434。ollama list能看到已经拉取的llama3.2:1b。ollama run llama3.2:1b能返回实际文字,而不是停在等待状态。
本文四步中的命令与成功标志来自 2026 年 2 月 4 日版本的本地推理配置清单;JavaScript 安装与调用示例来自 Ollama 官方 JavaScript 仓库。需要改用云端模型时,再以官方仓库中的 ollama signin、模型拉取和云端 API 配置为准。
参考来源
评论区
登录后可评论。