微信扫码
与创始人交个朋友
我要投稿
https://github.com/cpacker/MemGPT
Github项目详情见【阅读原文】
MemGPT 是一个开源项目,它允许用户构建具有长期记忆和自定义工具的大型语言模型(LLM)代理。
项目提供了一种方式,使得LLM代理能够管理长期记忆/状态,连接到外部数据源(例如PDF文件),并定义及调用自定义工具,如进行谷歌搜索。
对话代理:构建可以进行复杂对话的聊天机器人。
信息检索:通过连接外部数据源,代理可以检索和引用特定信息。
自定义功能:用户可以为代理定义特定的功能,如搜索、数据分析等。
研究与开发:开发者可以使用MemGPT进行LLM相关的研究和开发工作。
首先,需要安装MemGPT。可以通过Python的包管理器pip来安装:
pip install pymemgpt
如果使用OpenAI的服务,需要设置环境变量OPENAI_API_KEY
为OpenAI密钥,然后可以快速开始:
memgpt quickstart --backend openai
对于想要使用MemGPT免费托管端点的用户,可以这样做:
memgpt quickstart --backend memgpt
对于更高级的配置选项,或者使用不同的LLM后端或本地LLMs,可以运行memgpt configure
。
用户可以通过在命令行界面(CLI)中运行memgpt run
来创建和与MemGPT代理进行对话。run
命令支持以下可选标志(更多标志详见CLI文档:https://memgpt.readme.io/docs/quickstart
):
--agent
: 要创建或继续对话的代理名称。--first
: 用户发送第一条消息。--debug
: 显示调试日志。--no-verify
: 绕过消息验证。--yes
/-y
: 跳过确认提示并使用默认值。用户可以使用MemGPT将代理作为服务部署。服务需要使用MemGPT管理员密码进行身份验证,该密码可以通过运行以下命令设置:
export MEMGPT_SERVER_PASS=password
启动MemGPT服务有两种方式:
选项1(推荐):使用docker compose运行
git clone git@github.com:cpacker/MemGPT.git
。docker compose up
。memgpt.localhost
以查看开发者门户。选项2:使用CLI运行
memgpt server
。localhost:8283
以查看开发者门户。一旦服务器运行,用户可以使用Python客户端或REST API连接到memgpt.localhost
(如果使用docker compose运行)或localhost:8283
(如果使用CLI运行)来创建用户、代理等。
完整的文档可以参见:https://memgpt.readme.io
。
注:本文内容仅供参考,具体项目特性请参照官方 GitHub 页面的最新说明。
欢迎关注&点赞&在看,感谢阅读~
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-03-30
2024-04-26
2024-05-10
2024-04-12
2024-05-28
2024-05-14
2024-04-25
2024-07-18
2024-04-26
2024-05-06
2024-12-22
2024-12-21
2024-12-21
2024-12-21
2024-12-21
2024-12-20
2024-12-20
2024-12-19