熊猫老爹

手机端本地LLM客户端，100%设备端推理，MIT许可。

多后端本地LLM Web UI平台，支持LoRA训练，AGPL-3.0。

开源OpenAI API本地替代推理服务，Docker一条命令启动，MIT许可。

全栈私有AI应用，文档聊天+智能体+多用户。

自托管AI平台，完全离线，ChatGPT级界面，Docker一键启动。

桌面级本地LLM聊天客户端，一键安装100%离线，MIT许可。

开源桌面ChatGPT替代客户端，100%离线运行，Apache 2.0。

vLLM 生产级LLM推理与服务引擎，PagedAttention高吞吐，Apache 2.0。

C/C++高性能LLM推理引擎，GGUF发明者，MIT许可，15+后端。

桌面GUI本地模型客户端，个人与工作免费，全平台。

本地LLM推理服务框架，一键拉取模型，MIT许可，全平台。

开源模型推理首选云平台，200+ 开源与多模态模型，DeepSeek-V4-Pro 512K 上下文 $1.74/$3.48 每百万 token，MiniMax M3 仅 $0.30/$1.20，Serverless/Batch/Dedicated 三档部署，OpenAI 兼容，海外需VPN（国区受限）。