Navi2AI

      AI 大模型基建

      共 97 篇网址
      Navi2AI.com关于【AI 大模型基建】的分类定义与收录描述:模型从「训练好」到「能用起来」的整条技术栈,服务开发者与企业。涵盖模型获取(MaaS&API、开源权重)、能力改造(微调)、高效运行(推理与本地部署)、多模型调度(API 网关),以及让回答更准的 RAG 与向量数据库。这一层决定 AI 应用的成本、性能与合规边界。
      AI 大模型基建AI 文案与写作AI 图像与设计AI 视频与创作AI 音频与制作AI 代码与开发AI 效率与办公AI 通用智能体
      模型服务 MaaS&API开源模型推理与本地部署API 网关与聚合检索增强 RAG向量数据库训练与微调
      排序
      发布更新浏览点赞
      PEFT

      PEFT

      Hugging Face 开源的 LoRA/QLoRA/DoRA 等参数高效微调标准底座库。
      140
      训练与微调# PEFT
      OpenRLHF

      OpenRLHF

      高性能分布式 RLHF 框架,支持 PPO/GRPO/REINFORCE++,基于 Ray 与 vLLM。
      140
      训练与微调# OpenRLHF
      Apertus

      Apertus

      瑞士 Swiss AI Initiative 的完全开放多语种多模态大模型家族。
      140
      开源模型# Apertus
      DeepSeek

      DeepSeek

      DeepSeek 开放权重大模型家族,MIT 许可,1M 上下文。
      140
      开源模型# DeepSeek
      Quivr

      Quivr

      Apache-2.0 许可的开源"第二大脑"式 RAG 平台,Brain 抽象统一封装摄入-检索-生成,任意 LLM+任意向量库。
      130
      检索增强 RAG# Quivr
      R2R

      R2R

      MIT 许可的生产级 RAG 引擎,RESTful API 统一封装多模态摄入、混合搜索、知识图谱与 Agentic Deep Research。
      130
      检索增强 RAG# R2R
      CTranslate2

      CTranslate2

      OpenNMT团队开源,Transformer模型高效C++推理引擎,自定义运行时+faster-whisper底层。
      130
      推理与本地部署# CTranslate2
      DeepSpeed

      DeepSpeed

      微软开源的ZeRO优化器标杆,支撑千亿模型训练的深度学习加速库。
      130
      训练与微调# DeepSpeed
      Megatron-Core/LM

      Megatron-Core/LM

      NVIDIA开源的GPU优化大规模Transformer训练库,并行策略事实标准。
      130
      训练与微调# Megatron-Core
      GLM

      GLM

      智谱 Z.ai 开放权重大模型家族,MIT 许可,1M 上下文。
      130
      开源模型# GLM
      Qdrant

      Qdrant

      Apache-2.0 许可的 Rust 编写 AI 原生向量数据库,HNSW 遍历期过滤、量化降内存 64 倍、原生混合检索。
      120
      向量数据库# Qdrant
      LiteLLM

      LiteLLM

      BerriAI主导,以OpenAI格式统一调用100+ LLM提供商,MIT许可,AI网关事实标准。
      120
      API 网关与聚合# LiteLLM
      SGLang

      SGLang

      SGLang是基于RadixAttention前缀缓存的高吞吐LLM/VLM服务框架。
      120
      推理与本地部署# SGLang
      veRL

      veRL

      字节火山引擎开源,PPO/GRPO/REINFORCE++强化学习后训练框架。
      120
      训练与微调# veRL
      Colossal-AI

      Colossal-AI

      潞晨科技出品,集成多维并行与异构内存优化的开源大模型训练系统。
      120
      训练与微调# Colossal-AI
      Axolotl

      Axolotl

      YAML配置统一驱动LLM后训练,Apache-2.0许可的全栈微调框架。
      120
      训练与微调# Axolotl
      LlamaFactory

      LlamaFactory

      北航开源零代码大模型微调框架,统一100+模型全流程训练。
      120
      训练与微调# LlamaFactory
      FLUX

      FLUX

      Black Forest Labs 的开放权重图像生成家族,schnell 为 Apache-2.0 可商用。
      120
      开源模型# FLUX
      加载更多
      Navi2AI
      Navi2AI 是一个专注 AI 工具的一站式导航站。汇集对话、绘画、编程、办公等热门 AI 产品,分类清晰、直达可用,帮你快速找到趁手的 AI 利器。

      友链申请 免责声明 广告合作 关于我们

      扫码加QQ群Navi2AI
      扫码加QQ群
      扫码加微信Navi2AI
      扫码加微信
      Copyright © 2026 Navi2AI 京ICP备2024080263号-3  京公网安备11010502061824号 
      网址
      网址文章软件书籍