AI 大模型基建

月之暗面 Kimi 开放权重大模型家族，K3 为 2.8T 参数 MoE 旗舰。

Google DeepMind 开放权重大模型家族，Apache-2.0，端侧多模态。

法国 Mistral AI 的开放权重大模型家族，Apache-2.0 为主。

turboderp主导，消费级NVIDIA GPU本地LLM推理库，EXL3量化格式发源地，MIT许可。

微软DeepSpeed团队开源，Blocked KV Cache+Dynamic SplitFuse高吞吐推理库。

PyTorch官方原生后训练库，YAML配置+SFT/DPO/PPO/GRPO可黑盒配方。

阿里达摩院开源，600+模型统一训练与部署的全栈框架。

AI Singapore 主导的东南亚多语种开放大模型家族，基于 Apertus/Gemma/Qwen/Llama 四大开源基座定制。

Genmo 的 Apache-2.0 开放权重视频生成模型，10B AsymmDiT 架构，运动质量与提示词遵循双 SOTA。

Allen AI 的完全开源大模型家族，Apache-2.0，权重/数据/代码全开放。

MiniMax 开放权重大模型家族，M3 是首个三项前沿能力兼备的开放模型。

微软 Phi 开放权重大模型家族，MIT 许可，专注边缘端高效推理。

Apache-2.0 许可的基于 MCP 架构的低代码 RAG 开发框架，YAML 编排复杂流程，可视化 IDE 白盒推理，清华 OpenBMB 出品。

labring主导，以OpenAI/Claude/Gemini协议为入口的高性能AI网关，多租户隔离+智能路由，MIT许可。

Kong Inc.主导，构建在Kong Gateway之上的AI网关，统一治理LLM/MCP/A2A流量，Apache-2.0许可。

JustSong主导，以OpenAI格式统一30+大模型提供商，单可执行文件+Docker一键部署，MIT许可。

Apple机器学习研究团队出品，Apple Silicon统一内存原生的数组框架与LLM推理引擎。

NVIDIA官方开源，编译优化大模型推理，NVIDIA GPU上极限吞吐引擎。