AI 大模型基建

手机端本地LLM客户端，100%设备端推理，MIT许可。

多后端本地LLM Web UI平台，支持LoRA训练，AGPL-3.0。

开源OpenAI API本地替代推理服务，Docker一条命令启动，MIT许可。

全栈私有AI应用，文档聊天+智能体+多用户。

桌面级本地LLM聊天客户端，一键安装100%离线，MIT许可。

开源桌面ChatGPT替代客户端，100%离线运行，Apache 2.0。

vLLM 生产级LLM推理与服务引擎，PagedAttention高吞吐，Apache 2.0。

C/C++高性能LLM推理引擎，GGUF发明者，MIT许可，15+后端。

桌面GUI本地模型客户端，个人与工作免费，全平台。

本地LLM推理服务框架，一键拉取模型，MIT许可，全平台。

开源模型推理首选云平台，200+ 开源与多模态模型，DeepSeek-V4-Pro 512K 上下文 $1.74/$3.48 每百万 token，MiniMax M3 仅 $0.30/$1.20，Serverless/Batch/Dedicated 三档部署，OpenAI 兼容，海外需VPN（国区受限）。

科大讯飞官方 MaaS，Spark X2 深度推理模型数学/智能体能力 SOTA，X1.5/X2 价格 2-3 元/百万 tokens，个人认证送 20 万 tokens、企业认证送 100 万 tokens 免费包，Spark Lite 永久免费，国内直连。

自研 LPU 芯片把开源模型推理速度推到 280-1000 tokens/秒，Llama 3.3 70B 仅 $0.59/$0.79 每百万 token，免费层 14,400 请求/天，OpenAI 兼容，海外需VPN（国区受限）。

百度智能云旗下企业级 MaaS 平台，文心 ERNIE 5.0 原生全模态 128K 上下文，ERNIE-Speed/Lite/Tiny 系列长期免费，ERNIE-3.5-8K 永久免费不限量，国内直连，政企落地经验国内第一。

企业级 LLM API 聚合网关，一个 Key 调 GPT-5/Claude 4.5/Gemini 3 Pro 等 500+ 模型，CN2 全球直连无需 VPN，98ms 延迟，1 元=1 美元充值。

国内开源模型 API 覆盖最全的一站式 MaaS 平台，DeepSeek-V4-Flash 输入 ¥1/输出 ¥2 每百万 token，9B 及以下模型永久免费，新用户送 14 元额度（约 2000 万 Tokens），国内直连。

腾讯云大模型统一 API 入口，Hy3 Preview 旗舰 192K 上下文、三档推理，输入 ¥1/输出 ¥4 每百万 token（缓存命中 ¥0.25），首次开通送 100 万 Token + 100 万 Embedding，Hunyuan-Lite 永久免费，国内直连。

月之暗面官方 MaaS，K3 旗舰 1M 上下文、原生图文视频理解，国内直连，新用户实名送 ¥15 额度。