粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
大家有看到最强开源模型llama3出来了吗，我拿着8G内存的mac在本地部署了一个llama3:8b，竟然也run起来了(但电脑主机感觉要烧了
)，大家想尝试下一个，可以回看这里《零代码本地部署一个大模型》
今天接着分享，不用写代码怎么拥有一个和本地大模型交互的web页面
下载docker
先下载一个docker客户端(开源的应用引擎)，稍后用来帮我们一键安装和运行web页面
进入docker首页，根据系统选择对应安装包进行docker客户端安装
地址：https://www.docker.com/products/docker-desktop/
下载完成后记得运行docker
下载webUI项目
完成docker下载后，我们去ollama的github中选一个开源的webUI项目，我这里以Open WebUI为例
地址：https://github.com/ollama/ollama?tab=readme-ov-file
点击Open WebUI链接，进入它的说明网站，获取用docker下载该项目的命令
地址：https://docs.openwebui.com/
或者直接复制下面这个命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
打开电脑的命令行终端，将这段代码复制并运行，能看到docker开始下载webUI项目了
运行webUI项目
下载好后，打开docker客户端，能看到Open WebUI项目，点击Port下的端口号
进入WebUI界面，简单注册下
当～一个长得像ChatGPT的web版聊天机器人就有了。大家按需在ollama里面下载各种开源模型，就可以在这个界面里面自由切换模型进行使用啦～
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-05-14
2024-04-26
2024-03-30
2024-04-12
2024-05-10
2024-07-18
2024-05-22
2024-05-28
2024-04-25
2024-04-26
回到顶部