我要投稿

构建一个属于自己的私人AI

发布日期：2024-10-30 21:31:43 浏览次数： 1514 来源：远远Faraway

得益于开源精神，世界上已经有很多开源的大语言模型，我们可以通过开源的大语言模型部署属于自己的专属AI，大语言模型（large language models）简称LLM，是使现代人工智能拥有智能的一种技术。

开源的大语言模型可以理解为别人已经设计好的软件，你只要下载下来在自己的电脑上运行，就能得到一个属于自己的人工智能，前提是你的电脑配置需要满足最小要求，不同的大模型对于电脑配置的要求不一样。

目前世界上开源的大语言模型有很多，这里就不一一列举。LLaMa系列的开源大语言模型比较有名，我们来部署LLaMa 3吧。

LLaMa是由Meta （原Facebook）开发的开源大模型系列，包括LLaMa 3 8B和LLaMa 3 70B，被认为是同体量下性能最好的大模型。使用ollama来部署和使用LLama，这是一种非常简单高效的方法。我们只需要进入其官网下载，运行ollama后就能通过一行命令部署指定的开源模型了。

步骤一：

下载ollama，进入其官网的下载页面 [ 网址在评论区置顶处 ]，下载后安装并运行，装软件的过程很简单，就不详细介绍了。

选择你的系统平台下载对应的版本

运行成功后，桌面右下角会有ollama的图标

步骤二：

打开命令行，运行命令 ollama run llama3

首次运行会下载你指定的开源大语言模型，等待下载完成。

步骤三：

输入文本和LLama3模型交流，你想说什么就说什么，本地运行的大模型不需要网络也不受监控，极大地保护你的隐私。

这个过程就是ollama去帮我们部署运行大模型，而且ollama还是我们和大语言模型之间的桥梁，帮助我们和大模型进行交流，这个过程不需要任何网络，全是在我们本地的计算机完成的。

关注这个系列的课程，欢迎订阅这个合集

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

太强了！10大开源大模型！

2024-05-06

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

2024-07-08

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

2023-07-01

中医大模型，开源！

2024-06-16

如何免费使用 Claude AI？Claude使用指南！

2024-07-11

Coze收费了，我还用吗？

2024-07-18

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-07-09

大家都在问

NotebookLM+AI播客到底是什么神仙组合？

2024-10-07

阿里巴巴发布Qwen2.5，对标GPT o1？

2024-09-22

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

2024-09-20

疯狂24h后，openai o1有哪些新的秘密？

2024-09-14

OpenAI的o1模型会带来哪些影响和机会？

2024-09-14

LLM 基础知识 | WaterMarking，你搞懂了吗？

2024-09-12

清华开源LongCite，如何提高大模型的溯源能力？

2024-09-07

大模型的泡沫什么时候破灭？

2024-08-06

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

太强了！10大开源大模型！

开源项目Composio：突破 AI 智能体开发的边界

Ollama 本地运行大模型(LLM)完全指南

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

中医大模型，开源！

如何免费使用 Claude AI？Claude使用指南！

Coze收费了，我还用吗？

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

大家都在问

NotebookLM+AI播客到底是什么神仙组合？

阿里巴巴发布Qwen2.5，对标GPT o1？

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

疯狂24h后，openai o1有哪些新的秘密？

OpenAI的o1模型会带来哪些影响和机会？

LLM 基础知识 | WaterMarking，你搞懂了吗？

清华开源LongCite，如何提高大模型的溯源能力？

大模型的泡沫什么时候破灭？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

太强了！10​大开源大模型！

开源项目Composio：突破 AI 智能体开发的边界

Ollama 本地运行大模型(LLM)完全指南

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

中医大模型 ，开源！

如何免费使用 Claude AI？Claude使用指南！

Coze收费了，我还用吗？

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

大家都在问

NotebookLM+AI播客到底是什么神仙组合？

阿里巴巴发布Qwen2.5，对标GPT o1？

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

疯狂24h后，openai o1有哪些新的秘密？

OpenAI的o1模型会带来哪些影响和机会？

LLM 基础知识 | WaterMarking，你搞懂了吗？

清华开源LongCite，如何提高大模型的溯源能力？

大模型的泡沫什么时候破灭？

热门标签

太强了！10大开源大模型！

中医大模型，开源！