免费软件专题
免费在本地跑大模型的工具
在本地跑大模型现在不需要显卡集群，也不需要给谁付订阅费。但这几个常被并排比较的工具其实处在不同的层——有的是引擎，有的是桌面应用，有的是自建的网页界面。选错层比选错产品更常见。这个专题按「你缺哪一层」来分，所有数字截至 2026 年 8 月，可在各自发布页核对。
9 个精选推荐
怎么挑
- 核心功能永久免费，不是限时试用。
- 不需要注册账号即可下载和使用。
- 可以完全离线运行，模型和对话留在本机。
- 协议按实际 LICENSE 文件标注，不采信仓库页的自动识别。
推荐工具
免费
Ollama
在自己电脑上跑大模型，一条命令的事
- 开源
- 离线可用
- 跨平台
- 无广告
免费
LM Studio
图形界面跑本地大模型，个人和商用都免费
- 离线可用
- 跨平台
- 无广告
- 无需注册
免费
Jan
开源的 ChatGPT 替代品，100% 离线跑在自己机器上
- 开源
- 离线可用
- 跨平台
- 无广告
免费
Open WebUI
自建的大模型网页界面，通常接在 Ollama 前面
- 可自建
- 离线可用
- 跨平台
- 无广告
免费
llama.cpp
本地跑大模型的地基，几乎所有工具都建在它上面
- 开源
- 无广告
- 无追踪
- 离线可用
免费
LocalAI
把本机模型包装成 OpenAI 接口，程序改个地址就能接
- 开源
- 无广告
- 无追踪
- 离线可用
免费
AnythingLLM
把自己的文档喂给本地大模型，让它按你的资料回答
- 开源
- 无广告
- 离线可用
- 无需注册
免费
LibreChat
自己搭一个 ChatGPT，全家或全团队共用
- 开源
- 无广告
- 无追踪
- 可自建
有免费版
Chatbox
一个窗口切换所有大模型，对话存在本地
- 开源
- 无广告
- 无需注册
- 跨平台
常见问题
- 这四个应该装哪一个？
- 看你缺哪一层。完全不想碰命令行，装 LM Studio 或 Jan，一个应用就够。想把本地模型接进编辑器、脚本或自己写的程序，装 Ollama，它的本地 API 是这个生态事实上的标准接口。想在浏览器里用、或者给几个人共用，Ollama 加 Open WebUI 是最常见的组合。
- 本地跑需要什么样的硬件？
- 一个 7B 规模的模型通常还要额外 4 到 5 GB 硬盘，显存不够时可以退到 CPU 跑，只是慢。装之前先看硬盘：Ollama 的 Windows 安装包本身就有 1492 MB（打包了 CUDA、ROCm 运行时），macOS 版 174.6 MB，Jan 的 Windows 版只有 55 MB。
- Open WebUI 是开源的吗？
- 严格说不是。它的 License 主体是 BSD-3-Clause，但加了第 4 条禁止修改或移除 Open WebUI 的品牌标识，限制修改自由，按 OSI 的开源定义不成立，属于「源码可见」。不过条款有例外：滚动 30 天内终端用户不超过 50 人的部署可以改品牌，所以个人和小团队用基本不受影响。
- LM Studio 闭源，商用要付费吗？
- 不要。2025 年 7 月起个人和商用都免费，不需要申请授权也不需要填表，下载模型同样不要账号。另有面向组织的 Enterprise 付费版，提供 SSO 和模型管控，跟普通用户无关。