粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
ollama是一个非常好用的本地运行大语言模型工具，让我们本地运行大语言模型变得非常简单。
访问ollama官网：https://ollama.com/
下载完安装ollama工具即可
打开命令行，运行大模型
ollama run llama2-chinese和大模型通话
退出大模型
/bye 或者 Ctrl+d搭建WebUI，此处使用OpenWebUI，有docker比较方便，搭建完注册第一个用户即为管理员，进入后上面选择模型，即可对话
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main参考资源
可用的大模型列表，有适用于编程的coder，中文的，科学的，识图的，大家可根据自己需求选择和搭建：https://ollama.com/library
github地址：https://github.com/ollama/ollama
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-08-18
当产品经理谈到用LLM Agent构建新一代智能体的时候，他们在说什么？
2024-08-15
对话AI教育从业者们：AI如何解决因材施教的难题？
2024-08-03
工业应用中的向量数据库与知识向量化存储方案
2024-07-25
两大深度学习框架TensorFlow与PyTorch对比
2024-07-17
让生成式 AI 触手可及：NVIDIA NIM on VKE 部署实践
2024-07-16
中文大模型基准测评2024上半年报告
2024-07-16
一文看懂人工智能的起源、发展、三次浪潮与未来趋势
2024-07-14
"自拍" 秒变 "证件照" 看Coze如何实现
2024-05-14
2024-04-26
2024-05-22
2024-04-12
2024-07-18
2024-03-30
2024-05-10
2024-08-13
2024-04-25
2024-04-26
回到顶部