AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Dify本地化部署避坑指南MAC
发布日期:2025-01-07 08:17:36 浏览次数: 1595 来源:数字化助推器


Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。


由于 Dify 内置了构建 LLM 应用所需的关键技术栈,包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎以及灵活的 Agent 框架,并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间,使其可以专注在创新和业务需求上。


作为一款给开发者打造的一站式AI应用开发工具,Dify主要有以下几个特点:

  1. **简单直观**:你可以通过图形界面来创建和调试 AI 应用,几分钟就能发布。
  2. **上下文集成**:可以用你自己的数据来进行文本预处理,无需深入了解技术细节。
  3. **API 访问**:提供后台服务,直接访问 Web 应用或将 API 集成到你的项目中,不用担心复杂的后台架构和部署问题。
  4. **数据优化**:通过图形界面查看 AI 的运行日志,改进数据标注,不断提升 AI 的表现。


Dify 兼容 Langchain,支持多种大语言模型(LLM)。目前支持的模型供应商包括 OpenAI、Azure OpenAI、Anthropic、Replicate、Hugging Face、ChatGLM、Llama2、MiniMax、讯飞星火、文心一言和通义千问等。在Mac本地化部署的步骤如下:


第1步:安装Docker

在开始在 Mac 上安装 Docker Compose 之前,请确保已下载并安装 Docker。您可以使用简单的终端命令检查是否属于这种情况:

docker --version

如果您已经安装了 Docker,您将能够查看 Docker 版本。

在自己的工作目录中克隆 Dify 的 GitHub 仓库”:

git clone https://github.com/langgenius/dify.git


第2步. Docker镜像设置

为 Docker 虚拟机(VM)至少分配 2 个虚拟 CPU(vCPU) 和 8GB 初始内存,否则安装可能会失败。

添加镜像源地址,如果不进行该步骤,后面在部署时会报错。

启动docker之后的GUI界面上配置,把后面内容复制粘贴即可。

 

复制如下信息,替换上图中的内容。

{
  "builder":{
    "gc":{
      "defaultKeepStorage":"20GB",
      "enabled":true
    }
},
"experimental":false,
"features":{
    "buildkit":true
},
"registry-mirrors":[
    "https://dockerpull.org",
    "https://docker.1panel.dev",
    "https://docker.foreverlink.love",
    "https://docker.fxxk.dedyn.io",
    "https://docker.xn--6oq72ry9d5zx.cn",
    "https://docker.zhai.cm",
    "https://docker.5z5f.com",
    "https://a.ussh.net",
    "https://docker.cloudlayer.icu",
    "https://hub.littlediary.cn",
    "https://hub.crdz.gq",
    "https://docker.unsee.tech",
    "https://docker.kejilion.pro",
    "https://registry.dockermirror.com",
    "https://hub.rat.dev",
    "https://dhub.kubesre.xyz",
    "https://docker.nastool.de",
    "https://docker.udayun.com",
    "https://docker.rainbond.cc",
    "https://hub.geekery.cn",
    "https://docker.1panelproxy.com",
    "https://atomhub.openatom.cn",
    "https://docker.m.daocloud.io",
    "https://docker.1ms.run",
    "https://docker.linkedbus.com"
]
}

第3步. 安装docker compose

要开始在 Mac 上安装 Docker Compose,请打开终端窗口。终端打开后,您可以输入以下命令,该命令将自动下载最新版本的 Docker Compose for Mac:

curl -L "https://github.com/docker/
compose/releases/latest/download/docker
-compose-$(uname -s)-$(uname -m)" -o
/usr/local/bin/docker-compose

如果您在运行上一个命令时遇到错误消息,可能是由于没有足够的权限写入所需的目录。在这种情况下,建议以超级用户身份执行安装。为此,请在终端中输入以下命令:

sudo -i

要使用 Docker Compose,您必须通过更改权限使程序可执行。终端命令chmod可以帮助解决这个问题:

chmod +x /usr/local/bin/docker-compose

为了确保在 macOS 上安装 Docker Compose 期间不会发生错误,请在终端中访问Docker Compose 的当前版本:

docker compose version

第4步. 部署启动Dify


进入 dify 源代码的 docker 目录,执行一键启动命令:

cd dify/docker
docker compose up -d


用下面的命令检查一下是不是正常运行:

docker compose ps

你也可以打开docker的桌面应用,看看里面容器运行情况。

## 步骤 4:访问 Dify

在浏览器输入框里输入http://localhost/install,这是为了完成 Dify 的初始配置的。

稍等一会儿,就大功告成了。

Dify 主页面:

代码语言:javascript

复制

# 本地环境
http://localhost

# 服务器环境
http://your_server_ip
  • 自定义配置

编辑 .env 文件中的环境变量值。然后重新启动 Dify:

代码语言:javascript

复制

docker compose down
docker compose up -d

完整的环境变量集合可以在 docker/.env.example 中找到。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询