Ollama用起来还行，但体积一天天鼓起来，每次开机都像在等一头巨兽慢悠悠苏醒。…

Ollama用起来还行，但体积一天天鼓起来，每次开机都像在等一头巨兽慢悠悠苏醒。直到我上手Shimmy，单个文件才5MB，Rust打造，启动不到100ms，内存也就占个50MB上下。 讲真，头一回跑起来我还愣了一下，差点以为压根没启动成功，实在是快得离谱。 项目地址：github.com/Michael-A-Kuyk… 几个亮点我挑出来讲讲。 单文件5MB，下载干脆利落，不像有些工具一上来就几百兆。我有个做AI应用的朋友，他之前用Ollama，每次更新都要下载几百兆的安装包。换了Shimmy后，他说体验确实好了很多，下载快，启动也快。 启动不到100ms，点开就用，等都不用等。我试了一下，确实比Ollama快很多。特别是那些需要频繁启动的场景，用Shimmy能省不少时间。 内存吃掉约50MB，老爷机也扛得住。我有个做数据分析的同事，他电脑配置不高，之前用Ollama经常卡顿。换了Shimmy后，他说流畅多了，基本不卡了。 OpenAI兼容API自备，接进去几乎不花成本。配置免了，端口自动分，打开就能使。模型自动认出来，Hugging Face、Ollama、本地目录统统吃得下。 放一块比，体积、速度、内存占用都比Ollama苗条一大截。如果你也在用本地大模型，可以试试这个。特别是那些对启动速度有要求的场景，Shimmy确实是个不错的选择。