EXPLORE / 02

本地 AI

模型运行、知识库与属于自己的 AI 工作流。

10 个已整理工具更多筛选 →

免费

Ollama

在自己的电脑上运行和管理语言模型

Windows / macOS / Linux开源

免费 / 付费

Msty

把本地与在线模型统一到桌面工作区

Windows / macOS / Linux

免费

GPT4All

普通电脑即可离线运行大模型的桌面客户端

Windows / macOS / Linux开源

免费

vLLM

高吞吐的 LLM 推理与服务引擎

Linux开源

免费

LocalAI

本地运行多模态模型的开源推理引擎

Windows / macOS / Linux开源

免费

Jan

离线运行的桌面 AI 助手

Windows / macOS / Linux开源

免费

llama.cpp

用 C/C++ 高效运行大模型的推理引擎

Windows / macOS / Linux开源

免费核心 / 商业服务

AnythingLLM

把文档与模型连接到个人知识工作流

Windows / macOS / Linux开源

免费核心 / 商业服务

Open WebUI

为自托管模型服务提供浏览器交互界面

Windows / macOS / Linux

免费 / 付费

LM Studio

通过桌面界面探索本地语言模型

Windows / macOS / Linux