粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
ollama是一个非常好用的本地运行大语言模型工具，让我们本地运行大语言模型变得非常简单。
访问ollama官网：https://ollama.com/
下载完安装ollama工具即可
打开命令行，运行大模型
ollama run llama2-chinese和大模型通话
退出大模型
/bye 或者 Ctrl+d搭建WebUI，此处使用OpenWebUI，有docker比较方便，搭建完注册第一个用户即为管理员，进入后上面选择模型，即可对话
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main参考资源
可用的大模型列表，有适用于编程的coder，中文的，科学的，识图的，大家可根据自己需求选择和搭建：https://ollama.com/library
github地址：https://github.com/ollama/ollama
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-03-30
2024-04-26
2024-05-10
2024-05-28
2024-04-12
2024-04-25
2024-08-13
2024-05-14
2024-07-18
2024-05-06
回到顶部