在本文中，我将介绍Ollama最近对Llama 3.2 Vision的支持更新，并分享Llama 3.2 Vision的实测结果。同时，我还将介绍一个视觉RAG系统，展示如何将Llama 3.2 Vision与该系统结合，完成基于视觉RAG检索的任务。

先介绍此次更新：

Ollama 现在正式支持 Llama 3.2 视觉模型（Llama 3.2 Vision）。

你看就像这样拖进去就可以识别图片了。

▲ 来源 | Prompt Engineering

Ollama 升级！支持一键拉取Huggingface上所有的模型，太方便了！（vLLM、Fastgpt、Dify、多卡推理）

2024-10-17

通过本地图像路径向模型提问“这张图片是什么”。

▲ 来源 | Fahd Mirza

手写内容识别

光学字符识别 (OCR)

图表和表格

图片问答

还是不错的。

下面我们进入正题 ...

一个视觉RAG系统 + Llama 3.2 Vision

LocalGPT-Vision 是一个基于视觉的检索增强生成 (RAG) 系统，它可以让你与文档进行对话，使用Vision语言模型实现端到端的RAG系统。

该项目使用Colqwen 或 ColPali模型进行基于视觉的页面信息检索，检索到的页面将传递到视觉语言模型 (VLM) 以生成响应。

对于生成模型，你有多个选项，我将选择Ollama Llama Vision，

然后保存更改。

对于被RAG的对象，我们使用一篇名叫Light RAG论文，这是一种简单快速的检索增强生成方法，结合了知识库和基于密集向量的方式，特别适用于具有某种关系的实体。

LightRAG开源了！轻巧、强大，GraphRAG的进化版

2024-10-14

开始：

点击上传文档按钮，选择相应的PDF文件，然后点击“开始索引”。

▲ 来源 | Prompt Engineering

此时，后台将使用Colqwen模型为PDF中的每一页创建多维向量表示，转换成图像并计算嵌入，所有这些操作都依赖于强大的poppler库。

如果遇到问题，请确保已安装poppler库，因为有些人在使用这个库时遇到过问题。索引完成后，点击“确定”，然后开始与刚才创建的知识库进行交互。

首先，我们用一个简单的提示开始：“这篇论文的标题是什么？”

你可以看到，论文的标题是《Light RAG: Simple and Fast Retrieval Augmented Generation》。

它与标题完全一致。

接下来我们可以看看它是否能够解释该图像的详细信息。

我问：“你能详细解释图1吗？”

图1 作为论文中的一个插图，讨论了索引过程和检索过程，并展示了提议的Light RAG框架的整体架构。该页面还包含了其他信息，特别是数学公式，它们本质上也解释了相同的概念。

原文是这样的

这里是这个视觉RAG系统回答的翻译版本：

我在这里补充它回答后续的截图：

此外，这些视觉开源大模型往往也可以用于一些视频帧的分析的场景。