Ollama 入门实战:4 步跑通本地模型并验证成功

Ollama 是本地大模型运行工具,可通过命令行拉取模型并完成对话。2026 年 2 月 4 日更新的实践清单把首次配置压缩为安装、启动、拉取模型和测试对话四步;现在按这四步操作,可以在写客户端代码前先确认本机推理链路正常。

开始前:把环境一次配齐

本地链路需要一台能运行 Ollama 的电脑、足够的磁盘空间和可用内存。磁盘用于保存模型,内存用于加载模型;教程提供的操作清单建议首次先拉取较小模型,避免模型过大导致内存不足。

  1. 安装命令行工具:macOS 或 Linux 执行 curl -fsSL https://ollama.com/install.sh | sh;其他系统进入 Ollama 下载页选择对应安装包。安装后运行 ollama --version,能够打印 ollama version 0.x.x 才算完成。
  2. 准备两个终端:第一个用于保持服务运行,第二个用于执行模型命令。模型文件会占用磁盘空间,下载前应确保系统盘有足够余量。
  3. 决定是否使用云模型:本地运行不需要在示例中登录;需要云端模型时,再执行 ollama signin 完成一次性登录。普通用户先跑通本地链路即可,不必一开始配置云端密钥。

第 1 步:安装并确认 CLI 可用

在 macOS 或 Linux 终端执行:

curl -fsSL https://ollama.com/install.sh | sh

这条命令来自 2026 年 2 月 4 日发布的 Local inference setup checklist。如果终端不接受命令,可改用 Ollama 下载页安装。

安装结束后单独确认,不要只看安装窗口是否关闭:

ollama --version

成功标志是输出中出现类似下面的内容:

ollama version 0.x.x

这里无需记死 0.x.x 的具体数字。版本号会随安装版本变化,关键是 ollama 命令能够被终端找到,并且输出 ollama version。

如果这一步没有输出,先确认安装程序是否已经结束,再重新打开一个终端。终端只会加载启动时已经存在的 PATH(系统用于查找可执行程序的环境变量)配置,因此安装前打开的窗口可能暂时识别不到新命令。

第 2 步:启动服务并检查端口

如果安装程序没有自动启动 Ollama,在第一个终端执行:

ollama serve

保持这个终端运行,不要关闭。成功时,界面应出现:

Ollama is running on http://localhost:11434

这里的 11434 是 Ollama 本地服务使用的端口。接着在第二个终端检查服务是否真的能响应:

curl http://localhost:11434/api/tags

这里不必先理解接口结构。空模型列表通常返回 JSON 形式的内容,重点是命令能够连接 localhost:11434,而不是出现连接拒绝。

首次拉取模型前,服务、端口和客户端都应先通过检查。否则后面看到生成失败时,很难判断是模型尚未下载,还是 Ollama 服务根本没有启动。

第 3 步:先拉一个小模型

在第二个终端执行:

ollama pull llama3.2:1b

下载完成后,用下面的命令确认本地已有模型:

ollama list

成功标志是列表中出现 llama3.2:1b。如果后续确实需要更高质量的结果,再考虑更大的模型:

ollama pull llama3.1:8b

两种模型的取舍应按机器资源决定:

选择 首次命令 适用场景 需要注意
小模型 ollama pull llama3.2:1b 验证安装、服务和对话链路 优先排除环境问题
更大的模型 ollama pull llama3.1:8b 需要更好回答质量 占用更多内存和磁盘

这是实践清单给出的操作建议,不是官方给出的性能排名:小模型更适合首次连通测试,大模型则可能遇到内存不足。不要同时下载多个模型后才开始排查,因为多个模型文件并不能证明 Ollama 是否已经正常工作。

第 4 步:发送第一条消息

模型已出现在 ollama list 后,执行:

ollama run llama3.2:1b

进入交互界面后输入一个容易观察结果的问题,例如:

用一句话解释什么是本地大模型。

成功标志有三点:终端进入对话状态、问题被回显、模型返回连续文字。输入 /bye 可退出交互会话;如果当前版本不接受该指令,可按终端提示或使用 Ctrl+D 结束输入。

只看到模型名称却一直没有输出,不算跑通。此时先回到服务终端检查 ollama serve 是否仍在运行,再确认客户端调用的模型名与 ollama list 中的名称完全一致。

常见卡点:先分清服务、权限和模型问题

本地链路最容易混淆的是端口冲突与权限问题。实践清单明确将这两类问题列为服务无法启动时的常见故障。

卡点 表现 对应处理
端口已被占用 ollama serve 无法监听 11434 先停止占用该端口的旧 Ollama 进程,再执行 ollama serve
服务权限不足 服务启动失败或无法绑定监听地址 不使用 sudo 盲目重装;关闭占用端口的程序,以当前用户重新启动
模型名写错 交互命令找不到模型 执行 ollama list,复制其中完整名称
模型占用过大 下载或加载时失败 先用 llama3.2:1b 验证链路,再处理内存与磁盘空间
客户端连不上 curl http://localhost:11434/api/tags 无法连接 保持 ollama serve 所在终端开启,并检查请求地址和端口

如果 ollama serve 提示端口相关错误,可以先在第二个终端查询已有模型:

curl http://localhost:11434/api/tags

若这个请求能成功,说明服务其实已经运行,当前终端里的 ollama serve 是重复启动;若请求失败,再处理端口占用或权限问题。这样可以避免同时启动多个服务,却误以为模型本身有问题。

用 JavaScript 验证:命令行跑通后再接项目

终端对话正常,只能证明模型和本地服务可用。若准备把 Ollama 接入 JavaScript 项目,可使用官方 ollama-js 仓库提供的客户端库。

先安装依赖:

npm i ollama

然后创建最小调用:

import ollama from 'ollama'

const response = await ollama.chat({
  model: 'llama3.1',
  messages: [
    { role: 'user', content: 'Why is the sky blue?' }
  ],
})

console.log(response.message.content)

这段代码直接取自官方仓库 README。需要保持命令与文章中的模型口径一致:如果本机下载的是 llama3.2:1b,就把 model 改成相同名称:

model: 'llama3.2:1b'

成功标志是 Node.js 终端打印模型返回的文字。若提示找不到模型,先执行 ollama list;若提示连接失败,则检查 ollama serve 是否仍在运行。官方 JavaScript 库默认面向本地 Ollama 工作流,不要把命令行能生成答案与 JavaScript 能连接服务混为一件事。

成功标志与下一步入口

完成本文四步后,应同时看到四个可观察结果:

  1. ollama --version 输出 ollama version 0.x.x。
  2. ollama serve 显示服务运行在 http://localhost:11434。
  3. ollama list 能看到已经拉取的 llama3.2:1b。
  4. ollama run llama3.2:1b 能返回实际文字,而不是停在等待状态。

本文四步中的命令与成功标志来自 2026 年 2 月 4 日版本的本地推理配置清单;JavaScript 安装与调用示例来自 Ollama 官方 JavaScript 仓库。需要改用云端模型时,再以官方仓库中的 ollama signin、模型拉取和云端 API 配置为准。

参考来源

评论区

0 条评论

登录后可评论。

拾光机 12 阅读