AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


9.1K+ Star!一个用于构建具有长期记忆和自定义工具的大型语言模型(LLM)代理的开源项目
发布日期:2024-05-14 22:26:18 浏览次数: 1929 来源:AIGC创想者


https://github.com/cpacker/MemGPT

Github项目详情见【阅读原文】

项目简介

MemGPT 是一个开源项目,它允许用户构建具有长期记忆和自定义工具的大型语言模型(LLM)代理。

项目提供了一种方式,使得LLM代理能够管理长期记忆/状态,连接到外部数据源(例如PDF文件),并定义及调用自定义工具,如进行谷歌搜索。

使用场景

  1. 对话代理:构建可以进行复杂对话的聊天机器人。

  2. 信息检索:通过连接外部数据源,代理可以检索和引用特定信息。

  3. 自定义功能:用户可以为代理定义特定的功能,如搜索、数据分析等。

  4. 研究与开发:开发者可以使用MemGPT进行LLM相关的研究和开发工作。

使用方法

安装与设置

首先,需要安装MemGPT。可以通过Python的包管理器pip来安装:

pip install pymemgpt

如果使用OpenAI的服务,需要设置环境变量OPENAI_API_KEY为OpenAI密钥,然后可以快速开始:

memgpt quickstart --backend openai

对于想要使用MemGPT免费托管端点的用户,可以这样做:

memgpt quickstart --backend memgpt

对于更高级的配置选项,或者使用不同的LLM后端或本地LLMs,可以运行memgpt configure

快速开始(命令行界面CLI)

用户可以通过在命令行界面(CLI)中运行memgpt run来创建和与MemGPT代理进行对话。run命令支持以下可选标志(更多标志详见CLI文档:https://memgpt.readme.io/docs/quickstart):

  • --agent: 要创建或继续对话的代理名称。
  • --first: 用户发送第一条消息。
  • --debug: 显示调试日志。
  • --no-verify: 绕过消息验证。
  • --yes/-y: 跳过确认提示并使用默认值。

快速开始(服务器)

用户可以使用MemGPT将代理作为服务部署。服务需要使用MemGPT管理员密码进行身份验证,该密码可以通过运行以下命令设置:

export MEMGPT_SERVER_PASS=password

启动MemGPT服务有两种方式:

选项1(推荐):使用docker compose运行

  1. 在系统上安装docker。
  2. 克隆仓库:git clone git@github.com:cpacker/MemGPT.git
  3. 运行docker compose up
  4. 在浏览器中访问memgpt.localhost以查看开发者门户。

选项2:使用CLI运行

  1. 运行memgpt server
  2. 在浏览器中访问localhost:8283以查看开发者门户。

一旦服务器运行,用户可以使用Python客户端或REST API连接到memgpt.localhost(如果使用docker compose运行)或localhost:8283(如果使用CLI运行)来创建用户、代理等。

完整的文档可以参见:https://memgpt.readme.io


注:本文内容仅供参考,具体项目特性请参照官方 GitHub 页面的最新说明。

欢迎关注&点赞&在看,感谢阅读~


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询