Skip to content
← 返回专题清单

免费软件专题

免费在本地跑大模型的工具

在本地跑大模型现在不需要显卡集群,也不需要给谁付订阅费。但这几个常被并排比较的工具其实处在不同的层——有的是引擎,有的是桌面应用,有的是自建的网页界面。选错层比选错产品更常见。这个专题按「你缺哪一层」来分,所有数字截至 2026 年 8 月,可在各自发布页核对。

4 个精选推荐

怎么挑

  • 核心功能永久免费,不是限时试用。
  • 不需要注册账号即可下载和使用。
  • 可以完全离线运行,模型和对话留在本机。
  • 协议按实际 LICENSE 文件标注,不采信仓库页的自动识别。

推荐工具

常见问题

这四个应该装哪一个?
看你缺哪一层。完全不想碰命令行,装 LM Studio 或 Jan,一个应用就够。想把本地模型接进编辑器、脚本或自己写的程序,装 Ollama,它的本地 API 是这个生态事实上的标准接口。想在浏览器里用、或者给几个人共用,Ollama 加 Open WebUI 是最常见的组合。
本地跑需要什么样的硬件?
一个 7B 规模的模型通常还要额外 4 到 5 GB 硬盘,显存不够时可以退到 CPU 跑,只是慢。装之前先看硬盘:Ollama 的 Windows 安装包本身就有 1492 MB(打包了 CUDA、ROCm 运行时),macOS 版 174.6 MB,Jan 的 Windows 版只有 55 MB。
Open WebUI 是开源的吗?
严格说不是。它的 License 主体是 BSD-3-Clause,但加了第 4 条禁止修改或移除 Open WebUI 的品牌标识,限制修改自由,按 OSI 的开源定义不成立,属于「源码可见」。不过条款有例外:滚动 30 天内终端用户不超过 50 人的部署可以改品牌,所以个人和小团队用基本不受影响。
LM Studio 闭源,商用要付费吗?
不要。2025 年 7 月起个人和商用都免费,不需要申请授权也不需要填表,下载模型同样不要账号。另有面向组织的 Enterprise 付费版,提供 SSO 和模型管控,跟普通用户无关。