llamafile
免费Mozilla 开源黑科技:把整个大语言模型权重与推理引擎打包成一个免安装、双击即跑的单个可执行文件
开源 无广告 无追踪 离线可用 无需注册 跨平台
结合 llama.cpp 与 Cosmopolitan Libc,让同一个包含数 GB 权重的单个文件无需安装任何依赖,即可直接在 Windows、macOS、Linux、FreeBSD 等 6 种操作系统上双击离线启动网页对话与 API。
为什么推荐它
llamafile 是工程美学的极致体现:不用装 Python、不用配 CUDA 环境、甚至不用装管理软件,把一个 .llamafile 文件拷进 U 盘,插到任何一台断网的 Windows、Mac 或 Linux 电脑上双击,浏览器就会自动弹出一套完整的本地离线 AI 对话界面。
常见问题
- llamafile 是真正免费的吗?有没有广告或暗坑?
- llamafile 采用完全免费模式,授权协议为 Apache-2.0。在自由度特性上支持:开源、无广告、无追踪、离线可用、无需注册、跨平台。
- llamafile 支持哪些操作系统和平台?可以离线或自建吗?
- llamafile 目前支持 Windows、macOS、Linux、命令行。它支持纯本地离线运行,无需联网即可使用核心功能。
- llamafile 有哪些同类的免费替代软件(Alternatives)?
- 如果你在寻找与 llamafile 同属于「AI · 大模型」领域的免费无广告替代方案,可以重点对比 exo、OpenHands (OpenDevin)、Tabby。