像GPT-4、GLM、Kimi 等这样的LLM在庞大的公共数据集上进行了预训练，从而开箱即用地提供了令人难以置信的自然语言处理能力。然而，如果没有访问你自己的私有数据，它们的实用性是有限的。
LlamaIndex允许你通过灵活的数据连接器从API、数据库、PDF等来源摄取数据。这些数据被索引到为LLM优化的中间存储库。然后，LlamaIndex允许你通过查询引擎、聊天接口和LLM驱动的数据代理，以自然语言查询和与你的数据进行对话。它使你的LLM能够在不重新训练模型的情况下，大规模访问和理解私有数据。
无论你是初学者，寻找一种简单的方法以自然语言查询你的数据，还是高级用户需要深度定制，LlamaIndex都提供了工具。高级API允许你仅用五行代码就可以开始，而较低级别的API则允许你完全控制数据摄取、索引、检索等。
LlamaIndex如何工作？
LlamaIndex使用检索增强生成（RAG）系统，该系统将大型语言模型与私有知识库（private knowledge base）相结合。它通常包括两个阶段：索引阶段和查询阶段。
索引阶段（indexing stage）
在索引阶段，LlamaIndex将有效地将私有数据索引到向量索引中。这一步有助于为你的领域创建一个可搜索的知识库。你可以输入文本文档、数据库记录、知识图谱和其他数据类型。
本质上，索引将数据转换为捕获其语义含义的数值向量或嵌入。它使得可以快速地在内容上进行相似性搜索。
查询阶段（Querying stage）
在查询阶段，RAG流水线根据用户的查询搜索最相关的信息。然后，这些信息连同查询一起提供给LLM，以创建一个准确的响应。
这个过程允许LLM访问可能未包含在其初始训练中的当前和更新的信息。
在这个阶段的主要挑战是检索、组织和推理可能涉及多个知识库的信息。
