LlamaIndex 是一个基于 LLM 的应用程序的数据框架，受益于上下文增强。这种 LLM 系统被称为 RAG 系统，全称是 Retrieval-Augmented Generation 表示“检索增强生成”。

LlamaIndex 提供了必要的抽象，可以更轻松地摄取、构建和访问私有或特定领域的数据，以便将这些数据安全可靠地注入 LLM 中，以实现更准确的文本生成。

为什么需要上下文增强？

LLM 在人类和数据之间提供自然语言界面。广泛可用的模型是根据大量公开数据（如维基百科、邮件列表、教科书、源代码等）进行预先训练的。

然而，虽然 LLM 接受了大量数据的训练，但这些训练数据中不包括你的数据，这些数据可能是私有的或特定于你试图解决的问题的所属领域。这些数据可能位于数据库、PDF、PPT 甚至是后台 API 中。

当然可以选择用您的数据微调 LLM，但是：

• 训练 LLM 的费用很高。

• 由于训练成本的原因，很难用最新信息更新 LLM。

• 缺乏可观察性。当我们向 LLM 提出问题时，我们并不知道 LLM 是如何得出答案的。

我们可以使用一种称为检索增强生成 (RAG) 的上下文增强模式来获得与你的特定数据相关的更准确的文本生成，而不是进行微调。RAG 涉及以下步骤：

• 首先从你的数据源中检索与你提出的问题相关的信息，

• 将其作为上下文添加到你的问题中，并且

• 请 LLM 根据丰富的提示进行回答。

通过这样做，RAG 克服了微调方法的三个弱点：

• 无需训练，因此价格便宜。

• 仅当你请求时才会获取数据，因此数据始终是最新的。

• LlamaIndex 可以向你显示检索到的文档，因此更值得信赖。

为什么使用 LlamaIndex 进行上下文增强？

首先，LlamaIndex 对你如何使用 LLM 没有任何限制。你仍然可以将 LLM 用作自动完成（auto-complete）、聊天机器人、半自主代理等。 

LlamaIndex 提供以下工具来帮助你快速建立可用于生产的 RAG 系统：

• 数据连接器可以帮助我们从数据的原始来源和以原始格式获取现有数据。这些来源可以是 API、PDF、SQL 等等。

• 数据索引以中间表示形式构建数据，这些中间表示形式对于 LLM 来说既简单又高效。

• 引擎提供对数据的自然语言访问。例如：

• 查询引擎是用于知识增强输出的强大检索接口。

• 聊天引擎是用于与数据进行多消息、“来回”交互的对话界面。

• 数据代理是由 LLM 提供支持的知识工作者，并通过从简单的辅助函数到 API 集成等工具进行增强。

• 应用程序集成将 LlamaIndex 重新融入生态系统的其余部分。这可以是 LangChain、Flask、Docker、ChatGPT，或者……其他任何东西！

LlamaIndex 为谁而生？

LlamaIndex 为初学者、高级用户以及介于两者之间的每个人提供工具。

我们的高级 API 允许初学者使用 LlamaIndex 通过 5 行代码获取和查询他们的数据。

对于更复杂的应用程序，我们的较低级别 API 允许高级用户自定义和扩展任何模块（数据连接器、索引、检索器、查询引擎、重新排名模块）以满足他们的需求。

现在开始安装吧！

pip install llama-index