微信扫码
与创始人交个朋友
我要投稿
┃AI应用介绍 Mi-GPT,给小爱音箱装一个大语言模型
唤醒模式功能限制:MiGPT 收到消息默认不会调用 AI 进行回复,需要以唤醒词开头的消息才能触发 AI 回复。同时,部分小爱音箱型号可能不支持流式响应,导致唤醒模式等功能失效。
性能限制:由于 MiGPT 通过轮询小米接口获取对话信息,存在一定的延迟。在 AI 回答之前,小爱音箱可能会抢话,这个问题是项目原理决定的,理论上需要通过刷机才能解决。
设置一个叫“小星星”的大模型角度,并与之对话↑
┃部署环境
OS: Windows 11
硬件:小爱音箱pro(其他型号是否支持请查看项目官方文档)
docker:须有(不用docker部署,则不需要,但就需要另外的环境了,具体参考官方项目介绍)
大模型 API key:须有(我这里演示是智谱的GLM-4 API。换成chatgpt或者其他大模型api接口理论上都可以,但最好是兼容openai api接口形式的)
部署方式:docker部署
Github项目地址:https://github.com/idootop
┃部署过程
提醒:请确保小爱音箱已与电脑蓝牙连接成功。
1.通过CMD命令窗口下载项目仓库到本地
git clone https://github.com/idootop/mi-gpt.git
2.重命名本项目根目录下的 .migpt.example.js 文件为 .migpt.js。根据自己小爱音箱的id、密码,以及你希望它扮演的角色重新设置,参考如下:
3、重命名本项目根目录下的 .env.example文件为 .env,打开这个文件并修改自己的大模型api配置。我这里用智谱的GLM-4 api接口,配置参考如下:
4.完成上述步骤后,通过docker安装。执行以下命令(windows请直接拷贝我的命令,把D:/tools/100AIGC修改成自己电脑的路径即可)
docker run -d--env-file D:/tools/100AIGC/mi-gpt/.env-v D:/tools/100AIGC/mi-gpt/.migpt.js:/app/.migpt.jsidootop/mi-gpt:latest
5.docker成功启动后,可以在docker该服务的后台看到服务已启动字样,就可以与小爱音箱对话。启动成功画面如下:
一点感悟:这次部署耗费很多时间,对话体验其实也并不是特别流畅,但还是充满新鲜感,后续大语言模型与智能硬件的结合会持续尝试。
祝大家端午安康!
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-12-23
2025年AI大模型的趋势与洞察
2024-12-23
阶跃星辰完成数亿美元 B 轮融资,发力「超级模型」+「超级应用」
2024-12-23
百川智能发布全链路领域增强金融大模型Baichuan4-Finance,金融能力领先GPT-4o近20%
2024-12-22
AI“落地”系列——Agent
2024-12-22
LAMBO:AI大模型赋能边缘智能
2024-12-22
如何从头建立一个通用AI智能体应用?
2024-12-22
不是炒作GenAI!终于有 BERT 的替代品了
2024-12-21
Anthropic最新:AI Agents 2024年度总结!
2024-05-28
2024-04-26
2024-08-13
2024-08-21
2024-07-09
2024-08-04
2024-06-13
2024-04-11
2024-07-18
2024-07-01