AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Ollama 轻松玩转本地大模型,带你体验谷歌最强的gemma模型,部署私人ChatGPT
发布日期:2024-04-14 14:06:28 浏览次数: 4376 来源:峰哥Python笔记


首先这不是什么教程,只是一个自己的一个简单笔记,截图比较多,有的地方可能漏掉了细节,后面可以提问留言,关于模型下载,我准备了几个我下载好的模型,如果你网络有问题,连接不上,可以下载这个用于演示。希望以下文字能帮助到你,记得关注,点赞,转发,点在看。

1.安装OLLama

到ollama的主页 https://ollama.com 点击 『Download』到下载页面,

点击『**Download for Windows(Preview)**』进行下载,大约170M左右。下载好,直接下一步安装完成。安装好后,大概是:

安装完成后,ollama在后台运行,右下角有一个图标,没有其他东西,也没有安装任何模型,只有安装了某一个模型可以使用,常见的模型有ollamaollama2,谷歌的gemma,通义千问qwen。默认情况下,ollama已加入系统路径,在命令行就可以调用ollama,可以在命令行运行服务,下载模型,查看版本,查看模型等。

ollama --version #查看ollama版本
ollama server #开启服务
ollama list #列出当前的模型
ollama run gemma:7b #运行gemma 7b模型,如果没有本地模型,直接拉模型到本地

模型支持情况:

2.安装gemma模型

Gemma 是一组轻量级生成式人工智能 (AI) 开放模型。Gemma 模型可以在应用以及硬件、移动设备或托管服务上运行。您还可以使用调优技术自定义这些模型,使其善于执行您和您用户的重要任务。Gemma 模型基于 Gemini 模型,旨在供 AI 开发社区进行扩展和改进。您可以使用 Gemma 模型生成文本。您还可以对它们调优,以提高其在特定任务中的性能。经过调优的 Gemma 模型可帮助您提高生成式 AI 解决方案的针对性和效率。

在ollama官网,点右侧的『Models

选择『gemma

选择『Tags

这里是OLLama支持gemma的模型,选择7b ,复制旁边的ollama run gemma:7b

OLLama的安装目录。运行上面复制代码,进行模型的下载的安装,这个模型大概5g多,看自己的网速。命令行输入ollama run gemma:7b这就完成了OLLamagemma模型7b的安装。

3.gemma模型测试

跑个测试看一下效果,在这个界面提一个问题,看看他生成的结果。

ollama run gemma:7b

如何学习好英语,看电影美剧有帮助吗?

学习英语,看电影美剧可以帮助提高英语水平,但不是唯一方法。以下方法可以帮助你学习英语:

1. 听英语广播和 podcast:

  • 听英语广播和 podcast可以帮助你提高听说能力,并帮助你学习新的词汇和语法。

2. 看英语电影和电视节目:

  • 看英语电影和电视节目可以帮助你提高你的词汇和语法能力,以及你的听力和语速能力。
  • 在看电影和电视节目时,可以先看字幕,然后慢慢去掉字幕。

3. 阅读英语书籍和文章:

  • 阅读英语书籍和文章可以帮助你提高你的词汇和语法能力,以及你的阅读速度和理解能力。
  • 可以从简单的书籍和文章开始,逐渐增加难度。

4. 和英语母语人交谈:

  • 和英语母语人交谈可以帮助你提高你的口语能力,以及你的语法和词汇能力。
  • 你可以找到很多在线或当地的英语学习交谈平台。

其他方法:

  • 使用英语学习应用和网站
  • 寻找英语学习资源,例如在线课程、视频和文章
  • 在你的日常活动中使用英语,例如与朋友交谈、阅读新闻和博客、在网上购物等
  • 设定目标,并坚持完成它们

看电影美剧是否有效?

看电影美剧可以帮助提高英语水平,但不是唯一方法。电影中使用的语言可能与实际生活中的语言略有不同,但可以帮助你学习新的词汇和 语法,以及提高你的听力和语速能力。

注意事项:

  • 不应该依赖电影和电视节目来学习英语,应该结合其他方法。
  • 在看电影和电视节目时,应该集中注意力,并记录新的词汇和语法。
  • 不应该依赖字幕,应该尝试听英文 without subtitles。
  • 在学习英语时,应该坚持练习,不要害怕犯错。

结果看着还可以吧,还支持中文,这个非常不错。有时也非常不靠谱。

7b模型至少要N卡8g显存,我的是8g显卡,提问时,基本跑满8g。如果显卡不行,选个体积小点的模型。另外也有人说需要的是内存,不是显存,我也没太搞明白,大家自己再研究研究。

4.安装pinokio

安装这个pinokio,主要是为了有web界面,正常的途径是在docker环境下安装,docker也有学习成本,可能还涉及到一些命令。通过pinokio来安装Open WebUI,来实现ollamaweb界面管理。到官网下载 pinokio,点『Download』,选windos版。

下载解压缩。可以访问网络。默认安装位置。点visit discover page

在下面找到Open WebUI,这个就是ollamaweb端。点进去。

点下载。开始安装前要先安装python环境,git等。

分别安装以上这几项,最后安装Open WebUI。点击进入这个项目。点下面的install,到github下载Open WebUI的项目,进行安装。

点start开启,服务运行起来后,访问本地的127.0.0.1:8000

注册一个帐号,这是一个本地的帐号,不是远端的。随便写。进入之后,模型这选gemma 7b,现在就可以像ChatGPT一样提问聊天了。

web端还可以上传pdf文件,进行分析,这里没有做演示。自己可去探索。

llava多模太模型

这个是安装多模态模型,没研究明白,这个直接跳过,我不想删除这段记录。

下载模型 ollama run llava:7b

5.模型目录转到其他目录

默认情况下,模型是安装到本地,用户名下一个.ollama下,一般模型都是几个g到十几个g,非常占用空间,可以设置参数,改变存储位置。设置环境变量,重新开启服务,把原来的模型转移过来。

重新运行,新下载的模型就存到h盘了,经过上面的设置,之前安装的模型是找不到的,需要重新下载,或者整体平稳过去。

6.注意事项

  1. 运行图形界面的web版时,后端的ollama服务一定要开,否则不能正常运行。
  2. 平移模型,再次运行时,可能会慢一些。
  3. 下载模型时,可能和本地网络有很大关系,如果网络不好,可能不能正常下载模型,我可以把gemma 7b的模型打包,分享网盘,自己到本地解压缩。
  4. 安装Open WebUI需要访问github,也可能存在网络问题。
  5. 一定要有N卡,显存至少4g以上,否则就不要试了。这个需要进一步验证。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询