┃任务说明

在前面的文章中，我已经体验了几款AI应用。今天，我将重磅起誓整一个大活：完成100个AI应用体验并分享。

之前已经分享了8个AI应用（Pika，comfyui，stable diffusion，星火api3.5，GPTs，VideoCrafter2，lepton search，ollama。）

现在，就从第9个开始吧（）

#AI应用-009 chat-ollama：一个基于开源LLMs和向量数据库的对话式应用（chatbot）

┃所需资源
大模型环境：ollama
容器引擎：Docker
应用服务：chat-ollama
向量数据库：ChromaDB

┃我的本机环境

OS: Windows 11

CPU: i7-14700KF

GPU: 4080 super （多说一嘴，我在macos上使用过其他langchain项目创建向量数据库，虽然成功，但读写速度实在拉胯，如果想在本地尝试AIGC的应用，特别是文生图、视频或者知识库之类的，还是要一台显卡给力的机子。当然现在要有一些大模型项目是基于CPU来训练和推理）

windows终端工具：windows PowerShell（不要用cmd，懂得都懂，不懂照做）

已具备的环境：本机环境之前已经安装了ollama，并下载ollama集成的几个开源大模型。

每一个AI工具所需要的环境不尽相同，也有人喜欢部署到云服务上尝试，但不管是本地还是云服务，要想有个好的体验，还是需要一个好的配置（本地or云服务），至少显卡配置要好点。

┃应用和数据库安装部署

前往项目地址：https://github.com/sugarforever/chat-ollama
里面包含了部署过程，写得非常详细，参考执行，顺利的地方就不赘述了，也没人想看，我把我遇到的问题以及解决思路呈现出来，一方面给自己做个总结记录，一方面如果真有人碰到的同样的问题，也可以参考。

问题1： yarn&bun install安装失败

PS D:\tools\100AIGC\chat-ollama> yarn installyarn : 无法将“yarn”项识别为 cmdlet、函数、脚本文件或可运行程序的名称。请检查名称的拼写，如果包括路径，请确保路径正确

PS D:\tools\100AIGC\chat-ollama> bun installbun : 无法将“bun”项识别为 cmdlet、函数、脚本文件或可运行程序的名称。请检查名称的拼写，如果包括路径，请确保路径正确，

• 按照文档，在PowerShell 中执行

• choco install yarn

  可以安装，但依然安装失败，换一种方式安装yarn：直接下载安装包后安装成功。

同样 bun install 也搜索一下，找到官网：https://bun.sh/docs/installation

找到安装命令，拷贝到PowerShell 窗口，回车。

irm bun.sh/install.ps1|iex

安装成功！

继续按照chat-ollama的项目导引执行后续的任务，直到服务全部启动，

chat-ollama访问页面：http://localhost:3000，如果能正常访问即应用服务启动成功。

┃应用配置和知识库初始化

在chat-ollama应用页面配置ollama后台服务地址

如果已经在本地安装了ollama，请确保ollama已经启动，在你的电脑右下角看到这个小羊羔即代表已启动

直接本地安装的ollama，在host上填写：http://127.0.0.1:11434

如果是docker上安装的ollama，在host上填写：http://host.docker.internal:11434

┃花絮

第一天折腾好应用跑起来后兴奋的很，第二天重启应用时，发现异常 。

用docker重启了下chat-ollama和chromaDB,访问http://localhost:3000页面时，发现调用不到本地模型了，检查了下server配置，怀疑是因为我用docker部署了ollama后，服务器地址改变了，更换一下ollama后台服务地址：

#原地址
http://127.0.0.1:11434
#更换后地址
http://host.docker.internal:11434

解决了这个问题
接着之前添加的向量数据库找不到了，在docker中一番操作后失败。

索性把向量数据库删除重建。步骤如下：
1、删除docker/containers中的chromadb相关的进程
2、参考https://github.com/sugarforever/chat-ollama执行向量数据库和服务初始化过程
3、docker中安装chroma

#https://hub.docker.com/r/chromadb/chroma/tagsdocker pull chromadb/chromadocker run -d -p 8000:8000 chromadb/chroma

4、创建数据库表

#npmnpm run prisma-migrate#pnpmpnpm prisma-migrate#yarnyarn prisma-migrate#bunbun run prisma-migrate

5、点击Docker Desktop进入docker桌面，把chroma和chat-ollama相关的服务全部启动

6、浏览器打开localhost:3000/knowledgebases
·重新配置ollama后台服务地址
·重新建知识库
·检查其他配置项

ok，再次愉快的玩耍~