微信扫码
与创始人交个朋友
我要投稿
用于启动并运行大型语言模型。
GitHub地址:https://github.com/ollama/ollama
官方网站:https://ollama.com/
根据README的指引,安装对应系统的Ollama。
由于我的电脑比较旧了,配置如下:
所以就选择一个参数小一点的大模型,我选择的是phi3 3.8b的版本。
在控制台输入:
ollama run phi3:latest
即可。
没下载这个模型会自动下载,下载好了就可以开始对话。
对于开发者而言,还可以通过Ollama提供的接口来接入自己的应用:
3.8b参数的大模型在我这台电脑上就已经跑的很慢了,尝鲜是可以的,真要使用如果没有离线的需求并且没有显卡还是使用云平台比较好,现在也有很多免费的模型使用了,而且收费的话个人使用也花不了多少钱。如果有显卡资源并且有离线使用的需求,可以考虑使用Ollama本地离线运行大模型。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-09-24
股份行积极布局大模型,哪些应用场景值得投入?
2024-09-23
AI大模型时代,云计算迎来新的增长引擎
2024-09-23
全网最全 Kimi 使用手册,看完 Kimi 效率提升 80%
2024-09-23
真的别再吹o1模型是新的范式,看看清华的思维图(DoT)框架,LLM推理集大成者
2024-09-23
最新,LLM因果推理看这篇调查足够,凯斯西储大学重磅
2024-09-23
企业AI战略和数据战略,哪个先行
2024-09-23
OpenAI O1:Sam Altman 和团队探索 AI 推理的未来
2024-09-23
大模型驱动多轮对话在智能营销场景下的应用与实践
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-07-09
2024-05-09
2024-07-25
2023-07-01
2024-09-24
2024-09-23
2024-09-23
2024-09-23
2024-09-23
2024-09-23
2024-09-23
2024-09-23