粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
用于启动并运行大型语言模型。
GitHub地址：https://github.com/ollama/ollama
官方网站：https://ollama.com/
根据README的指引，安装对应系统的Ollama。
由于我的电脑比较旧了，配置如下：
所以就选择一个参数小一点的大模型，我选择的是phi3 3.8b的版本。
在控制台输入：
ollama run phi3:latest
即可。
没下载这个模型会自动下载，下载好了就可以开始对话。
对于开发者而言，还可以通过Ollama提供的接口来接入自己的应用：
3.8b参数的大模型在我这台电脑上就已经跑的很慢了，尝鲜是可以的，真要使用如果没有离线的需求并且没有显卡还是使用云平台比较好，现在也有很多免费的模型使用了，而且收费的话个人使用也花不了多少钱。如果有显卡资源并且有离线使用的需求，可以考虑使用Ollama本地离线运行大模型。
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-01-08
独家对话阿里云刘伟光：什么是真正的AI云
2025-01-08
百度APP评论场景AI角色设计实践
2025-01-08
Anthropic发布的MCP，彻底打开了企业级 AI 的想象空间...
2025-01-08
仅需一万块钱！清华团队靠强化学习让 7B模型数学打败GPT-4o
2025-01-08
OA集成AI大模型简单实践-我把大模型集成到致远OA中系列
2025-01-08
手机「自动驾驶」大揭秘！vivo万字综述探讨大模型手机自动化
2025-01-08
不只 5090，英伟达还发布了最小的「AI 超算」与最大的世界模型
2025-01-07
OpenAI O3揭秘：特性、创新及与O1的较量
2024-05-28
2024-08-13
2024-04-26
2024-08-21
2024-06-13
2024-08-04
2024-07-09
2024-09-23
2024-04-11
2024-07-18
回到顶部