粤ICP备17114055号
微信扫码
添加专属顾问
支持私有化部署
我要投稿
几天前meta发布了史上最强开源大模型Llama3，要想免费使用Llama3，除了去官网 https://llama.meta.com/llama3/ 在线使用外，还可以本地部署。
本地部署有多种方式，常见的有如下3种方式：
1. github仓库clone后，https://github.com/meta-llama/llama3 安装python，pip相关的包，官网在线填写个人信息申请模型下载链接
2. LL-studio
3. ollama
其中以ollama部署最为便捷和友好，部署时间可在5分钟内完成。本篇就介绍ollama本地部署llama3模型。
step1：ollama官网（https://ollama.com/download）下载ollama，有mac，windows，linux三个版本，选择适合自己机器的版本下载并安装。
step2：命令行执行ollama run llama3 （默认是下载8b的模型，若要下载40b的，执行 ollama run llama3:70b）
Llama3的最小版本8B和70B已经全面领先其他竞争对手的开源大模型。其中70B的模型相当于GPT-4的水平，其中8B和70B都可以在个人PC上跑起来，8B就是80亿参数的模型只需要8G+的显存就可以流畅跑起来，70B就是700亿参数的模型虽然宣称需要40G+的显存，经测试在个人电脑的16G的显存上也可以跑起来，就是吐字速度慢些。
模型下载完成后就进入命令行交互界面，这时候就可以和llama3聊天了。
step3（可选）：命令行交互毕竟没有图形化界面友好，可以任选一个界面。目前市面上的界面多如牛毛，这里以开源软件chatbox为例，https://github.com/Bin-Huang/chatbox/releases
下载安装后，进入设置，配置使用本地ollama的llama3模型，之后就可以愉快的聊天了。
除了通过图形化界面和Llama3聊天外，还可以自己编程调用Llama3 的rest api，自动化让AI完成很多本地工作。
调用llama3 rest api，参考官网说明：https://github.com/ollama/ollama/blob/main/docs/api.md
curl http://localhost:11434/api/chat -d '{"model": "llama3","messages": [{"role": "user","content": "why is the sky blue?"}],"stream": false}'53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-04-24
Suna：构建你专属“通用智能体”的开源利器
2025-04-24
开源TTS领域迎来重磅新星！Dia-1.6B：超逼真对话生成，开源2天斩获6.5K Star！
2025-04-24
仅用3周时间，就打造出Manus开源平替！贡献源代码，免费用
2025-04-23
只需6G显存，就能本地跑的AI视频算法，开源了！
2025-04-23
OpenAI Codex 使用OpenRouter上的免费模型
2025-04-23
又一个牛皮的开源的通用型智能体界面和Manus有99分相似
2025-04-23
从零到多智能体：Google Agent开发套件（ADK）入门指南
2025-04-23
超强辅助，Bolt.diy 一步搞定创意建站
2024-07-25
2025-01-01
2025-01-21
2024-05-06
2024-09-20
2024-07-20
2024-07-11
2024-06-12
2024-08-13
2024-12-26
2025-04-21
2025-04-19
2025-04-17
2025-04-15
2025-04-13
2025-04-10
2025-04-07
2025-04-03
回到顶部