我要投稿

一个月获得 9000 Star！这个开源项目牛！

发布日期：2024-05-27 13:24:31 浏览次数： 1768 来源：逛逛GitHub

Ollama 是一个轻量级、可扩展的大模型框架，这个开源项目能帮助你在本地电脑上玩转和运行大语言模型。

如果你的电脑没有 GPU 也是能使用的，只不过大模型会使用 CPU 计算慢一些。

第一步部署

Ollama 支持 macOS、Windows 预览版和 Linux 系统。你可以直接去开源项目的主页去找最新的部署方式：github.com/ollama

或者使用 Docker 来快速启动 Ollama。此外，Ollama还提供了Python 和 JavaScript 库，方便开发者集成到自己的项目中。

macOS

下载链接：github.com/ollama/ollama#macos

Windows预览版

下载链接：github.com/ollama/ollama#windows-preview

Linux

安装命令：

curl -fsSL https://ollama.com/install.sh | sh

Docker

Ollama 的官方 Docker 镜像可在 Docker Hub 上找到，名为`ollama/ollama`。

第二步下载模型

Ollama支持一系列模型，可以去 ollama.com/library 去下载，例如 Llama 3、Gemma、Mistral和国内的千问等模型都支持，具有不同的参数和大小，用户可以根据需要下载和运行。

下载完成，你就能在本地电脑上随意的切换和使用你下载的大模型了。

第三步运行模型

你可以打开命令行，使用使用 ollama run 命令运行模型，比如：

$ ollama run gemma:2b

执行这个命令会启动 Ollama REPL，你可以在其中与 Gemma 2B 模型进行交互。以下是示例：

第四步：Web 界面

如果你不喜欢在命令行的窗口使用大模型，推荐你使用 Ollama WebUI ，启动后你可以看到一个干净、直观的界面，类似于 ChatGPT 的界面。

开源地址：https://github.com/open-webui/open-webui

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

2024-04-26

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-05-10

一文带你了解大模型——智能体（Agent）

2024-05-28

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

2024-04-12

更改ollama模型存储路径

2024-04-25

最强 GPT 免费使用！GPT4O 开启多模态新时代！

2024-05-14

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

太强了！10大开源大模型！

2024-05-06

大家都在问

影响RAG检索效果的原因有那些？

2024-12-27

独家｜上万元的AI学习机到底是谁在买？是教育平权还是加剧内卷？

2024-12-26

微软 OmniParser：如何让机器 “看懂” 手机电脑界面？

2024-12-26

字节和BAT，谁能缚住AI苍龙？

2024-12-26

在推荐、RAG等业务中，如何完成亿级向量的快速检索？

2024-12-26

AI模型训练到底在训练什么？

2024-12-26

微软变脸OpenAI，模型价值之争压不住了？

2024-12-25

大模型+安全实践之春天何时到来？

2024-12-25

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

万字长文解析：大模型需要怎样的硬件算力

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

一文带你了解大模型——智能体（Agent）

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

更改ollama模型存储路径

最强 GPT 免费使用！GPT4O 开启多模态新时代！

本地部署大模型？看这篇就够了，Ollama 部署和实战

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

太强了！10大开源大模型！

大家都在问

影响RAG检索效果的原因有那些？

独家｜上万元的AI学习机到底是谁在买？是教育平权还是加剧内卷？

微软 OmniParser：如何让机器 “看懂” 手机电脑界面？

字节和BAT，谁能缚住AI苍龙？

在推荐、RAG等业务中，如何完成亿级向量的快速检索？

AI模型训练到底在训练什么？

微软变脸OpenAI，模型价值之争压不住了？

大模型+安全实践之春天何时到来？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

万字长文解析：大模型需要怎样的硬件算力

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

一文带你了解大模型——智能体（Agent）

OLLama详细的 api 介绍 不完全指南 python 直接调用 OLLama api 翻译助手演示

更改ollama模型存储路径

最强 GPT 免费使用！GPT4O 开启多模态新时代！

本地部署大模型？看这篇就够了，Ollama 部署和实战

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

太强了！10​大开源大模型！

大家都在问

影响RAG检索效果的原因有那些？

独家｜上万元的AI学习机到底是谁在买？是教育平权还是加剧内卷？

微软 OmniParser：如何让机器 “看懂” 手机电脑界面？

字节和BAT，谁能缚住AI苍龙？

在推荐、RAG等业务中，如何完成亿级向量的快速检索？

AI模型训练到底在训练什么？

微软变脸OpenAI，模型价值之争压不住了？

大模型+安全实践之春天何时到来？

热门标签

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

太强了！10大开源大模型！