开源项目
可自主部署与二次开发的 AI / 开发开源项目与框架，使用前请遵循各自开源协议（License）
精选 8 个工具全部官方直连人工审核收录
开源项目工具列表
Ollama
本地运行大模型的开源框架，一行命令即可拉起并对话
本地模型
ollama.com
vLLM
高吞吐 LLM 推理与服务引擎，由开源社区维护
推理引擎
github.com/vllm-project/vllm
Hugging Face Transformers
主流预训练模型库与训练推理框架，开源生态完备
模型框架
github.com/huggingface/transformers
Llama.cpp
C++ 实现的高性能本地 LLM 推理，支持模型量化
本地推理
github.com/ggerganov/llama.cpp
ComfyUI
节点式 Stable Diffusion 可视化工作流，开源可自托管
图像工作流
github.com/comfyanonymous/ComfyUI
AutoGPT
可自主规划与执行任务的 AI 智能体，开源项目
自主智能体
github.com/Significant-Gravitas/AutoGPT
RAGFlow
开源深度文档理解 RAG 引擎，支持复杂格式解析
RAG 引擎
github.com/infiniflow/ragflow
Open WebUI
自托管的 LLM 聊天界面，可对接多种本地与云端模型
聊天界面
github.com/open-webui/open-webui