Ollama

免费

在自己电脑上跑大模型，一条命令的事

开源离线可用跨平台无广告无需注册可自建

MIT 开源的本地大模型运行器。负责下载模型、管理显存、对外提供本地 API，是这个生态事实上的标准接口——绝大多数本地 AI 工具都优先支持接 Ollama。没有图形界面，装完得到的是一条命令和一个本地服务。不需要注册，断网可用。

为什么推荐它

Ollama 是本地跑大模型的默认答案。178,502 颗星，MIT 协议，模型库最全，社区教程最多，你想接的那个工具大概率已经支持它。

要先知道一个数字：Windows 安装包 1492 MB，macOS 版 174.6 MB。差这么多是因为 Windows 版把 CUDA、ROCm 这些 GPU 运行时一起打包了。装之前留够空间——这还没算模型本身，一个 7B 模型通常还要 4 到 5 GB。

它没有图形界面。想要点开就能聊的窗口，得在前面配一个（比如 Open WebUI），或者直接用 LM Studio、Jan。但只要你打算把本地模型接进编辑器、脚本或自己写的程序， Ollama 那个本地 API 是最省事的路。