微信扫码
添加专属顾问
我要投稿
“ 2024年11月6日,Ollama发布了0.4版本,新增支持在本地加载和运行Llama3.2视觉模型,包括11B和90B两个大小的版本。”
01
1. 下载安装Ollama 0.4版本
下载地址: https://ollama.com
2. 运行Llama3.2视觉模型:
ollama run llama3.2-vision
3. 如果你的电脑配置足够强大,通过以下命令运行90B模型:
ollama run llama3.2-vision:90b
4. 要将一张图片添加到提示词中,可以拖动并释放它到终端中(Windows),或在Linux上将图片的路径添加到提示词中。
注意:Llama3.2视觉模型11B需要至少8GB的VRAM,而90B模型则需要至少64GB的VRAM。
—
1. 手写识别
2. 光学字符识别(OCR)
3. 图表和表格
4. 图片问答
—
1. 首先拉取模型:
ollama pull llama3.2-vision
2. 调用Python库
可以通过Ollama Python库在代码中调用Llama3.2视觉模型
import ollama
response = ollama.chat(
model='llama3.2-vision',
messages=[{
'role': 'user',
'content': 'What is in this image?',
'images': ['image.jpg']
}]
)
print(response)
3. 调用JavaScript库
也可通过Ollama JavaScript库在代码中调用Llama3.2视觉模型
import ollama from 'ollama'
const response = await ollama.chat({
model: 'llama3.2-vision',
messages: [{
role: 'user',
content: 'What is in this image?',
images: ['image.jpg']
}]
})
console.log(response)
4. 通过cURL调用
还可以通过cURL命令在命令行中调用
curl http://localhost:11434/api/chat -d '{"model": "llama3.2-vision","messages": [{"role": "user","content": "what is in this image?","images": ["<base64-encoded image data>"]}]}'
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-04-18
一口气讲清楚:向量库、训练集、多模态
2025-04-17
豆包深度思考模型正式发布!和 o3 一样能「看图思考」,还有一个 Agent 大招
2025-04-17
刚刚,o4-mini发布!OpenAI史上最强、最智能模型
2025-04-17
刚刚,OpenAI重磅发布o3和o4-mini多模态推理能力爆炸式提升!!!
2025-04-17
OpenAI o3 和 o4-mini 多模态推理新模型重磅来袭
2025-04-16
解放双手!LabelStudio 智能标注实战
2025-04-16
Seedream 3.0 文生图模型技术报告发布
2025-04-14
DupDub 插件登陆 Dify Marketplace,带来强大的音频 AI 能力
2024-09-12
2024-06-14
2024-08-06
2024-06-17
2024-08-30
2024-05-30
2024-11-28
2024-10-07
2024-10-16
2024-04-21
2025-04-08
2025-04-05
2025-03-30
2025-03-26
2025-03-05
2025-03-02
2025-01-08
2024-12-13