AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


【14/100个AI应用体验】小爱音箱,换个大模型给你赋个能吧。
发布日期:2024-06-21 08:12:31 浏览次数: 2101 来源:河东小郢




┃AI应用介绍  Mi-GPT,给小爱音箱装一个大语言模型

Mi-GPT 项目将小爱音箱从简单的语音助手转变为智能管家,能够更好地理解和满足你的需求
项目主要功能(特性):
  1.  LLM 回小爱音箱变身聊天高手,可以使用 ChatGPT 等大模型来回答你的问题(本次体验我用的智谱GLM-4)
  2. 角色扮演可以进行角色扮演,例如成为你的完美伴侣或贴心闺蜜
  3. 长短期记忆小爱音箱记住你们之间的每一次对话,越聊越默契(取决你用的大模型上下文长度限制)。
项目不足:
  1.  兼容性限制部分小爱音箱型号支持不完整。 由于 接口开放能力的差异,一些型号的小爱音箱可能无法完全支持 MiGPT 的所有功能,导致部分功能异常。
  2. 唤醒模式功能限制:MiGPT 收到消息默认不会调用 AI 进行回复,需要以唤醒词开头的消息才能触发 AI 回复。同时,部分小爱音箱型号可能不支持流式响应,导致唤醒模式等功能失效。

  3. 性能限制:由于 MiGPT 通过轮询小米接口获取对话信息,存在一定的延迟。在 AI 回答之前,小爱音箱可能会抢话,这个问题是项目原理决定的,理论上需要通过刷机才能解决。

初步体验效果如下:

设置一个叫“小星星”的大模型角度,并与之对话↑


┃部署环境

OS: Windows 11

硬件:小爱音箱pro(其他型号是否支持请查看项目官方文档)

docker:须有(不用docker部署,则不需要,但就需要另外的环境了,具体参考官方项目介绍

大模型 API key:须有(我这里演示是智谱的GLM-4 API。换成chatgpt或者其他大模型api接口理论上都可以,但最好是兼容openai api接口形式的

部署方式:docker部署

Github项目地址:https://github.com/idootop


┃部署过程

提醒:请确保小爱音箱已与电脑蓝牙连接成功。

1.通过CMD命令窗口下载项目仓库到本地

git clone https://github.com/idootop/mi-gpt.git

2.重命名本项目根目录下的 .migpt.example.js 文件为 .migpt.js。根据自己小爱音箱的id、密码,以及你希望它扮演的角色重新设置,参考如下:



3、重命名本项目根目录下的 .env.example文件为 .env,打开这个文件并修改自己的大模型api配置。我这里用智谱的GLM-4 api接口,配置参考如下:




4.完成上述步骤后,通过docker安装。执行以下命令(windows请直接拷贝我的命令,把D:/tools/100AIGC修改成自己电脑的路径即可)

docker run -d--env-file D:/tools/100AIGC/mi-gpt/.env-v D:/tools/100AIGC/mi-gpt/.migpt.js:/app/.migpt.jsidootop/mi-gpt:latest

5.docker成功启动后,可以在docker该服务的后台看到服务已启动字样,就可以与小爱音箱对话。启动成功画面如下:



一点感悟:这次部署耗费很多时间,对话体验其实也并不是特别流畅,但还是充满新鲜感,后续大语言模型与智能硬件的结合会持续尝试。

祝大家端午安康!


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询