粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
1.Ollama是什么
Ollama是一个支持私有化大模型的安装和部署的开源项目，部署建议最少配置：运行7B模型最少8G内存，运行13B模型最少16G内存，运行33B模型最少32G内存，支持多个开源模型包括Llama 3，Gemma 2，Code Llama等
2.1.Ollama服务下载
下载命令如下：
curl -fsSL https://ollama.com/install.sh | sh
2.2.ollama服务启动
ollama serve
2.3.llama3服务运行
ollama run llama3
2.4 交互式问题测试
问题1.天为什么是蓝色的
问题2.如何保持健康
3.总结
Ollama能够帮助我们进行快速进行开源大模型的私有化部署，支持交互式的问答，让我们快速体验开源大模型的效果。大模型的部署不再受显卡大小的限制，只要有足够的内存，普通的电脑也可以部署，大大降低普通人使用开源大模型的门槛。
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-09-19
一文彻底搞懂大模型 - Dify（Agent + RAG）
2024-09-19
Qwen2.5横空出世：从3B到72B，全面碾压同级对手
2024-09-19
突发！GPT-4o 级语音 Moshi 开源！
2024-09-19
Qwen2.5 全链路模型体验、下载、推理、微调、部署实战！
2024-09-19
通义千问Qwen2.5开源，媲美Llama3.1-405B
2024-09-19
Qwen 2.5 开源，API 打一折
2024-09-18
OpenAI o1的开源平替版self-replay RL来了！
2024-09-18
Y Combinator 投资的开源 Cursor 替代品来了！
2024-08-13
2024-05-06
2024-06-12
2023-07-01
2024-07-25
2024-07-08
2024-07-11
2024-07-18
2024-07-25
2024-06-16
回到顶部