熊猫老爹

帅气的我简直无法用语言描述!
Jan

Jan

开源桌面ChatGPT替代客户端,100%离线运行,Apache 2.0。
290
vLLM

vLLM

vLLM 生产级LLM推理与服务引擎,PagedAttention高吞吐,Apache 2.0。
270
llama.cpp

llama.cpp

C/C++高性能LLM推理引擎,GGUF发明者,MIT许可,15+后端。
230
LM Studio

LM Studio

桌面GUI本地模型客户端,个人与工作免费,全平台。
310
Ollama

Ollama

本地LLM推理服务框架,一键拉取模型,MIT许可,全平台。
530
Together AI

Together AI

开源模型推理首选云平台,200+ 开源与多模态模型,DeepSeek-V4-Pro 512K 上下文 $1.74/$3.48 每百万 token,MiniMax M3 仅 $0.30/$1.20,Serverless/Batch/Dedicated 三档部署,OpenAI 兼容,海外需VPN(国区受限)。
550
讯飞星火 API

讯飞星火 API

科大讯飞官方 MaaS,Spark X2 深度推理模型数学/智能体能力 SOTA,X1.5/X2 价格 2-3 元/百万 tokens,个人认证送 20 万 tokens、企业认证送 100 万 tokens 免费包,Spark Lite 永久免费,国内直连。
640
GroqCloud

GroqCloud

自研 LPU 芯片把开源模型推理速度推到 280-1000 tokens/秒,Llama 3.3 70B 仅 $0.59/$0.79 每百万 token,免费层 14,400 请求/天,OpenAI 兼容,海外需VPN(国区受限)。
560
百度千帆

百度千帆

百度智能云旗下企业级 MaaS 平台,文心 ERNIE 5.0 原生全模态 128K 上下文,ERNIE-Speed/Lite/Tiny 系列长期免费,ERNIE-3.5-8K 永久免费不限量,国内直连,政企落地经验国内第一。
580
n1n

n1n

企业级 LLM API 聚合网关,一个 Key 调 GPT-5/Claude 4.5/Gemini 3 Pro 等 500+ 模型,CN2 全球直连无需 VPN,98ms 延迟,1 元=1 美元充值。
300
硅基流动

硅基流动

国内开源模型 API 覆盖最全的一站式 MaaS 平台,DeepSeek-V4-Flash 输入 ¥1/输出 ¥2 每百万 token,9B 及以下模型永久免费,新用户送 14 元额度(约 2000 万 Tokens),国内直连。
560
TokenHub

TokenHub

腾讯云大模型统一 API 入口,Hy3 Preview 旗舰 192K 上下文、三档推理,输入 ¥1/输出 ¥4 每百万 token(缓存命中 ¥0.25),首次开通送 100 万 Token + 100 万 Embedding,Hunyuan-Lite 永久免费,国内直连。
570