AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


ollama——如何快速搭建一个本地大语言模型
发布日期:2024-04-23 06:30:43 浏览次数: 2662 来源:进击的好哥


ollama是一个非常好用的本地运行大语言模型工具,让我们本地运行大语言模型变得非常简单。

  1. 访问ollama官网:https://ollama.com/

  2. 下载完安装ollama工具即可



  3. 打开命令行,运行大模型


    ollama run llama2-chinese
  4. 和大模型通话



  5. 退出大模型

    /bye 或者 Ctrl+d
  6. 搭建WebUI,此处使用OpenWebUI,有docker比较方便,搭建完注册第一个用户即为管理员,进入后上面选择模型,即可对话

    docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main


  7. 参考资源

    1. 可用的大模型列表,有适用于编程的coder,中文的,科学的,识图的,大家可根据自己需求选择和搭建:https://ollama.com/library

    2. github地址:https://github.com/ollama/ollama


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询