微信扫码
添加专属顾问
我要投稿
几天前meta发布了史上最强开源大模型Llama3,要想免费使用Llama3,除了去官网 https://llama.meta.com/llama3/ 在线使用外,还可以本地部署。
本地部署有多种方式,常见的有如下3种方式:
1. github仓库clone后,https://github.com/meta-llama/llama3 安装python,pip相关的包,官网在线填写个人信息申请模型下载链接
2. LL-studio
3. ollama
其中以ollama部署最为便捷和友好,部署时间可在5分钟内完成。本篇就介绍ollama本地部署llama3模型。
step1:ollama官网(https://ollama.com/download)下载ollama,有mac,windows,linux三个版本,选择适合自己机器的版本下载并安装。
step2:命令行执行ollama run llama3 (默认是下载8b的模型,若要下载40b的,执行 ollama run llama3:70b)
Llama3的最小版本8B和70B已经全面领先其他竞争对手的开源大模型。其中70B的模型相当于GPT-4的水平,其中8B和70B都可以在个人PC上跑起来,8B就是80亿参数的模型只需要8G+的显存就可以流畅跑起来,70B就是700亿参数的模型虽然宣称需要40G+的显存,经测试在个人电脑的16G的显存上也可以跑起来,就是吐字速度慢些。
模型下载完成后就进入命令行交互界面,这时候就可以和llama3聊天了。
step3(可选):命令行交互毕竟没有图形化界面友好,可以任选一个界面。目前市面上的界面多如牛毛,这里以开源软件chatbox为例,https://github.com/Bin-Huang/chatbox/releases
下载安装后,进入设置,配置使用本地ollama的llama3模型,之后就可以愉快的聊天了。
除了通过图形化界面和Llama3聊天外,还可以自己编程调用Llama3 的rest api,自动化让AI完成很多本地工作。
调用llama3 rest api,参考官网说明:https://github.com/ollama/ollama/blob/main/docs/api.md
curl http://localhost:11434/api/chat -d '{"model": "llama3","messages": [{"role": "user","content": "why is the sky blue?"}],"stream": false}'
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-03-31
搭建本地个人知识库?有这个开源工具就够了
2025-03-31
智谱干了件好事儿,免费不限量,这是国内首个正经给用户使用的通用智能体
2025-03-31
Memobase:用户长期记忆系统开源!让AI真正"记住"每个用户的秘密武器
2025-03-31
开源嵌入式项目:轻松上手ESP32打造你的专属AI语音助手
2025-03-31
手把手教你在NAS上部署NextChat,打造你的私人ChatGPT网页应用,支持多种模型!
2025-03-31
20000颗星!100多个Agent超级工具,开源MCP大合集
2025-03-31
OWL团队万字分享:复现Manus最好的团队,如何看待Agentic AI的落地现状?
2025-03-30
OpenManus源码小读第二弹
2025-01-01
2024-07-25
2025-01-21
2024-05-06
2024-09-20
2024-07-20
2024-06-12
2024-07-11
2024-08-13
2024-12-26
2025-03-31
2025-03-25
2025-03-25
2025-03-24
2025-03-22
2025-03-19
2025-03-17
2025-03-17