微信扫码
与创始人交个朋友
我要投稿
首先这不是什么教程,只是一个自己的一个简单笔记,截图比较多,有的地方可能漏掉了细节,后面可以提问留言,关于模型下载,我准备了几个我下载好的模型,如果你网络有问题,连接不上,可以下载这个用于演示。希望以下文字能帮助到你,记得关注,点赞,转发,点在看。
到ollama的主页 https://ollama.com 点击 『Download』到下载页面,
点击『**Download for Windows(Preview)**』进行下载,大约170M左右。下载好,直接下一步安装完成。安装好后,大概是:
安装完成后,ollama在后台运行,右下角有一个图标,没有其他东西,也没有安装任何模型,只有安装了某一个模型可以使用,常见的模型有ollama
,ollama2
,谷歌的gemma,通义千问qwen
。默认情况下,ollama
已加入系统路径,在命令行就可以调用ollama
,可以在命令行运行服务,下载模型,查看版本,查看模型等。
ollama --version #查看ollama版本
ollama server #开启服务
ollama list #列出当前的模型
ollama run gemma:7b #运行gemma 7b模型,如果没有本地模型,直接拉模型到本地
模型支持情况:
Gemma 是一组轻量级生成式人工智能 (AI) 开放模型。Gemma 模型可以在应用以及硬件、移动设备或托管服务上运行。您还可以使用调优技术自定义这些模型,使其善于执行您和您用户的重要任务。Gemma 模型基于 Gemini 模型,旨在供 AI 开发社区进行扩展和改进。您可以使用 Gemma 模型生成文本。您还可以对它们调优,以提高其在特定任务中的性能。经过调优的 Gemma 模型可帮助您提高生成式 AI 解决方案的针对性和效率。
在ollama官网,点右侧的『Models』
选择『gemma』
选择『Tags』
这里是OLLama
支持gemma
的模型,选择7b
,复制旁边的ollama run gemma:7b
。
到OLLama
的安装目录。运行上面复制代码,进行模型的下载的安装,这个模型大概5g
多,看自己的网速。命令行输入ollama run gemma:7b
。这就完成了OLLama
的gemma
模型7b的安装。
跑个测试看一下效果,在这个界面提一个问题,看看他生成的结果。
ollama run gemma:7b
学习英语,看电影美剧可以帮助提高英语水平,但不是唯一方法。以下方法可以帮助你学习英语:
1. 听英语广播和 podcast:
2. 看英语电影和电视节目:
3. 阅读英语书籍和文章:
4. 和英语母语人交谈:
其他方法:
看电影美剧是否有效?
看电影美剧可以帮助提高英语水平,但不是唯一方法。电影中使用的语言可能与实际生活中的语言略有不同,但可以帮助你学习新的词汇和 语法,以及提高你的听力和语速能力。
注意事项:
结果看着还可以吧,还支持中文,这个非常不错。有时也非常不靠谱。
7b模型至少要N卡8g显存,我的是8g显卡,提问时,基本跑满8g。如果显卡不行,选个体积小点的模型。另外也有人说需要的是内存,不是显存,我也没太搞明白,大家自己再研究研究。
安装这个pinokio
,主要是为了有web
界面,正常的途径是在docker
环境下安装,docker
也有学习成本,可能还涉及到一些命令。通过pinokio
来安装Open WebUI
,来实现ollama
的web
界面管理。到官网下载 pinokio,点『Download』,选windos版。
下载解压缩。可以访问网络。默认安装位置。点visit discover page
在下面找到Open WebUI
,这个就是ollama
的web
端。点进去。
点下载。开始安装前要先安装python环境,git等。
分别安装以上这几项,最后安装Open WebUI。点击进入这个项目。点下面的install,到github下载Open WebUI的项目,进行安装。
点start开启,服务运行起来后,访问本地的127.0.0.1:8000
注册一个帐号,这是一个本地的帐号,不是远端的。随便写。进入之后,模型这选gemma 7b,现在就可以像ChatGPT
一样提问聊天了。
web端还可以上传pdf文件,进行分析,这里没有做演示。自己可去探索。
这个是安装多模态模型,没研究明白,这个直接跳过,我不想删除这段记录。
下载模型 ollama run llava:7b
默认情况下,模型是安装到本地,用户名下一个.ollama下,一般模型都是几个g到十几个g,非常占用空间,可以设置参数,改变存储位置。设置环境变量,重新开启服务,把原来的模型转移过来。
重新运行,新下载的模型就存到h盘了,经过上面的设置,之前安装的模型是找不到的,需要重新下载,或者整体平稳过去。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-03-30
2024-04-26
2024-05-10
2024-04-12
2024-05-28
2024-04-25
2024-05-14
2024-07-18
2024-08-13
2024-04-26