LlamaIndex翻译站点

3天前更新 9 0 0

开发者优先的智能体框架,RAG 与文档智能领军者,MIT 许可,Python/TS 双 SDK。

语言:
英文
收录时间:
2026-07-31
LlamaIndexLlamaIndex
维护者:LlamaIndex Inc.
产品定位:开发者优先的智能体框架
开源协议:MIT
部署方式:本地部署(LlamaCloud 可选 SaaS/VPC)
核心能力:RAG,智能体,工作流,数据连接器,工具调用,评估
特色功能:Workflows 事件驱动,多智能体,可观测,300+集成,LlamaParse
支持模型:多模型兼容(300+ 集成)
工具调用方式:Function Calling,MCP,ACP
记忆机制:短期,长期,向量记忆

LlamaIndex 是构建数据上下文增强 LLM 应用与智能体的领先框架,专注于将数据连接器、索引、查询引擎、智能体与工作流组合为生产级 AI 系统。

开发者通过 LlamaIndex 的模块化组件,可以将 API、PDF、SQL、向量数据库等任意数据源接入大模型,快速构建从简单问答到自主智能体的各类应用。

2026 年起,LlamaIndex 在 RAG 框架定位基础上,强力推进 Workflows 1.0 与 LlamaAgents 开放预览,正式从”RAG 框架”演进为”可部署的文档智能体平台”。

 

产品概述

LlamaIndex 由 Jerry Liu 于 2022 年创立(最初名为 GPT Index),采用 MIT 开源协议,核心框架仓库约 50K GitHub Star,2026 年 6 月已达到 25M+ 月下载量、1B+ 累计处理文档数。

框架本体提供 Python 与 TypeScript 双语言 SDK,开发者可用 5 行代码完成”加载文档 → 建索引 → 查询”的 RAG 最小闭环。LlamaIndex 的商业化产品 LlamaCloud 提供企业管理版文档解析(LlamaParse,支持 90+ 文件类型)、提取(LlamaExtract)、索引与检索等托管能力,提供 SaaS 与 VPC 混合部署两种形态。

2026 年 3 月,LlamaIndex 开源了 LiteParse——TypeScript 原生的本地文档解析库,进一步丰富了开源产品矩阵。

 

核心能力

  • 数据连接器(Data Connectors):通过 LlamaHub 提供 300+ 预构建第三方连接器,从 API、PDF、SQL、Notion、Google Drive 等任意来源摄取数据
  • 数据索引(Data Indexes):提供向量索引、摘要索引、知识图谱索引、结构化索引等可组合索引类型,针对 LLM 消费优化
  • 查询引擎与聊天引擎:为数据提供自然语言访问接口,支持 RAG 问答与多轮对话
  • 智能体(Agents):LLM 驱动的知识助手,可将 RAG 管道作为众多工具之一来完成任务,支持工具调用、多智能体协作
  • Workflows(事件驱动工作流):异步优先、事件驱动的工作流引擎,可链起多步骤、循环、并行路径,支持启动/暂停/恢复的状态化管理,是 LlamaIndex 0.11+ 起取代旧 Query Pipeline 的推荐编排原语
  • LlamaParse:业界领先的文档解析服务,支持嵌套表格、复杂空间布局、嵌入式图像甚至手写笔记,90+ 文件类型
  • LlamaExtract:基于 Schema 的 LLM 驱动结构化提取智能体,提供页面引用与置信度评分
  • 可观测与评估:通过 OpenTelemetry 兼容的链路追踪,对查询、检索、Agent、Workflow 步骤进行严格实验、评估与监控
  • 多模态索引:对文本、表格、图像、音频进行适当检索器的索引

 

优势亮点

  • RAG 领域事实标准:与 LangChain 并列 LLM 应用开发两大主流框架,在 RAG 与文档理解场景被广泛视为首选
  • 数据层专注最深:提供最完整的数据连接器与索引能力,40+ 数据源连接器、丰富的向量数据库集成
  • 开发者优先:高低两层 API 兼顾,5 行代码即可起步,复杂场景可定制任意模块
  • Workflows 1.0 稳定:事件驱动工作流引擎达到 1.0 稳定版,支持状态化、可暂停、可恢复的复杂 Agent 编排
  • LlamaCloud 企业级文档自动化:LlamaParse 在复杂文档(嵌套表格、嵌入式图表/图像)解析上表现卓越,约 6 秒处理各类长度文档
  • 与 LangChain 互补:LlamaIndex 专注数据层与 RAG,LangChain 专注通用链编排,两者可组合使用
  • 模型无关:300+ 集成包,支持 OpenAI、Anthropic、Meta Llama、Hugging Face、Ollama 等任意 LLM

 

短板

  • 复杂多智能体编排弱于 LangGraph:对于需要显式图状态管理、持久执行、复杂分支循环的纯 Agent 编排场景,LangGraph 更灵活
  • 商业平台与开源框架边界需厘清:LlamaParse/LlamaCloud 是商业服务(Free 层 10K credits/月,Starter $50/月,Pro $500/月),开源框架本身免费但文档解析精度在生产环境常需 LlamaParse 加持
  • TypeScript 版本成熟度滞后:虽然官方宣称 Python 与 TypeScript 双 SDK,但社区反馈 TS 端口活跃度低于 Python
  • 版本迭代快,breaking changes 时有发生:0.10+ 起 GPTVectorStoreIndex 等旧 API 被移除,迁移需注意版本差异
  • 企业级特性依赖 LlamaCloud:自托管的高精度文档解析、提取、索引能力需要 LlamaCloud 企业版或 VPC 部署

 

适用企业/部门

AI 应用开发团队、R&D 部门、企业知识管理系统开发者、文档处理与数据提取领域开发者。特别适合:企业 RAG 知识库问答、文档理解与数据提取、需要引用溯源的文档智能体、多模态索引(文本/表格/图像/音频)、金融/保险/制造/医疗等行业的文档自动化。

 

 

安装教程

前提条件

  • Python 3.9+(推荐 3.11+)
  • pip 或 Poetry 包管理器
  • OpenAI API Key(或本地 Ollama 模型)

快速安装

# 核心包
pip install llama-index

# 按需安装 LLM 与嵌入模型集成
pip install llama-index-llms-openai
pip install llama-index-embeddings-openai

# 其他 LLM 提供商
pip install llama-index-llms-anthropic
pip install llama-index-llms-ollama

# 向量数据库集成
pip install llama-index-vector-stores-chroma
pip install llama-index-vector-stores-pinecone

验证安装:5 行代码 RAG 起步

import os
os.environ["OPENAI_API_KEY"] = "your-api-key"

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader

# 1. 从 data/ 目录加载文档(支持 PDF、DOCX、TXT、CSV 等)
documents = SimpleDirectoryReader("data").load_data()

# 2. 创建向量索引(自动分块、嵌入、存储)
index = VectorStoreIndex.from_documents(documents)

# 3. 创建查询引擎并提问
query_engine = index.as_query_engine()
response = query_engine.query("这份文档讲了什么?")
print(response)

使用 Ollama 本地模型

from llama_index.core import Settings
from llama_index.llms.ollama import Ollama
from llama_index.embeddings.huggingface import HuggingFaceEmbedding

# 配置全局设置使用本地模型
Settings.llm = Ollama(model="llama3.1")
Settings.embed_model = HuggingFaceEmbedding(model_name="BAAI/bge-small-en")

# 后续代码与 OpenAI 示例一致
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
documents = SimpleDirectoryReader("data").load_data()
index = VectorStoreIndex.from_documents(documents)
query_engine = index.as_query_engine()
print(query_engine.query("总结这份文档的核心观点"))

构建事件驱动工作流(Workflows)

from llama_index.core.workflow import Workflow, step, Context, StartEvent, StopEvent

class MyWorkflow(Workflow):
    @step
    async def first_step(self, ctx: Context, ev: StartEvent) -> StopEvent:
        # 在这里组合检索、工具调用、LLM 推理等步骤
        result = f"处理结果: {ev.input}"
        return StopEvent(result=result)

# 运行工作流
w = MyWorkflow()
result = await w.run(input="用户查询")
print(result)

使用 LlamaParse 解析复杂文档

# 安装 LlamaParse
pip install llama-parse

python

from llama_index.core import SimpleDirectoryReader
from llama_parse import LlamaParse

# 配置 LlamaParse(需要 LlamaCloud API Key)
parser = LlamaParse(api_key="your-llamacloud-key", result_type="markdown")
file_extractor = {".pdf": parser, ".pptx": parser}

documents = SimpleDirectoryReader(
    "data",
    file_extractor=file_extractor
).load_data()

LlamaCloud 托管服务

# 注册 LlamaCloud 获取 10,000 免费 credits/月
# https://cloud.llamaindex.ai/
# 设置环境变量
export LLAMA_CLOUD_API_KEY="your-llamacloud-key"

*选型提示:纯 RAG / 文档问答场景,LlamaIndex 比 LangChain 更简洁;复杂多智能体状态编排场景,建议配合 LangGraph 使用;LlamaIndex 与 LangChain 可组合——用 LlamaIndex 做数据层与检索,用 LangGraph 做 Agent 编排。

相关导航