不用联网就能跑AI模型？这个开源工具让创意工作者也能玩转大模型

你有没有想过——Stable Diffusion、Llama、Gemma 这些模型，其实可以不用联网、直接在你自己电脑上跑？

不是那种”假装本地部署但还是要走 API”的操作，是真的跑在你自己的显卡上，模型权重全在本地，prompt 飞出去又飞回来，一个字节都没离开过你的机器。

这个能力，来自一个开源工具叫 Ollama。

它能做什么？

简单说：Ollama 把几十个主流开源大模型做成了”一键启动”的包。你不需要懂 Docker、不需要配 CUDA 环境、不需要折腾命令行——一条命令，模型就跑起来了。

支持的模型包括 Llama 3、Mistral、Gemma、Stable Diffusion 系列（图像生成）、Qwen（阿里通义）……而且一直在更新，基本上市面上火什么它就会尽快支持什么。

为什么它有意思？

对于做创意工作的人来说，Ollama 最大的吸引力在于隐私和自由度。

你给 AI 喂的图、写的 prompt、上传的文件，全部留在本地。没有人会拿你的数据去训练什么模型，没有审核，没有延迟，不用看 API 余额的脸色。

更重要的是——你可以随意玩、随意改、随意接。接 Stable Diffusion 做本地 AI 生图，接语音模型做创意配音，接 LoRA 做风格定制……它是那种你装完之后会忍不住一直探索的东西。

怎么用？

macOS / Windows / Linux 全平台支持，安装包不到 200MB。

启动方式就一行：

ollama run llama3

然后就可以对话了。想换模型？

ollama run gemma

想看有哪些可用的模型？

ollama list

程序员还可以通过 API 调用，把 Ollama 接进自己的工作流——比如给 Claude Desktop 接一个本地模型做专属助手，或者在自己开发的 AI 应用里调本地模型降低成本。

谁适合用它？

如果你对 AI 创意应用感兴趣，想自己折腾但不想被 API 绑定，Ollama 是目前最低门槛的起点。它不需要你懂技术，但给你留足了进阶空间。

GitHub 链接我放结尾了，感兴趣可以直接去看——Stars 70k+，社区活跃，文档清晰，值得玩。

https://github.com/ollama/ollama

GitHub: https://github.com/ollama/ollama