微信扫码
与创始人交个朋友
我要投稿
┃AI应用介绍 Mi-GPT,给小爱音箱装一个大语言模型
唤醒模式功能限制:MiGPT 收到消息默认不会调用 AI 进行回复,需要以唤醒词开头的消息才能触发 AI 回复。同时,部分小爱音箱型号可能不支持流式响应,导致唤醒模式等功能失效。
性能限制:由于 MiGPT 通过轮询小米接口获取对话信息,存在一定的延迟。在 AI 回答之前,小爱音箱可能会抢话,这个问题是项目原理决定的,理论上需要通过刷机才能解决。
设置一个叫“小星星”的大模型角度,并与之对话↑
┃部署环境
OS: Windows 11
硬件:小爱音箱pro(其他型号是否支持请查看项目官方文档)
docker:须有(不用docker部署,则不需要,但就需要另外的环境了,具体参考官方项目介绍)
大模型 API key:须有(我这里演示是智谱的GLM-4 API。换成chatgpt或者其他大模型api接口理论上都可以,但最好是兼容openai api接口形式的)
部署方式:docker部署
Github项目地址:https://github.com/idootop
┃部署过程
提醒:请确保小爱音箱已与电脑蓝牙连接成功。
1.通过CMD命令窗口下载项目仓库到本地
git clone https://github.com/idootop/mi-gpt.git
2.重命名本项目根目录下的 .migpt.example.js 文件为 .migpt.js。根据自己小爱音箱的id、密码,以及你希望它扮演的角色重新设置,参考如下:
3、重命名本项目根目录下的 .env.example文件为 .env,打开这个文件并修改自己的大模型api配置。我这里用智谱的GLM-4 api接口,配置参考如下:
4.完成上述步骤后,通过docker安装。执行以下命令(windows请直接拷贝我的命令,把D:/tools/100AIGC修改成自己电脑的路径即可)
docker run -d--env-file D:/tools/100AIGC/mi-gpt/.env-v D:/tools/100AIGC/mi-gpt/.migpt.js:/app/.migpt.jsidootop/mi-gpt:latest
5.docker成功启动后,可以在docker该服务的后台看到服务已启动字样,就可以与小爱音箱对话。启动成功画面如下:
一点感悟:这次部署耗费很多时间,对话体验其实也并不是特别流畅,但还是充满新鲜感,后续大语言模型与智能硬件的结合会持续尝试。
祝大家端午安康!
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-09-19
o1发布后,信息量最大的圆桌对话:杨植麟、姜大昕、朱军探讨大模型技术路径
2024-09-19
杨植麟、姜大昕、朱军云栖激辩:我们对大模型发展的预测,都过于保守了
2024-09-19
大模型Agent:人工智能新前沿的深度解读
2024-09-19
LlamaIndex报告:未来Agentic App,不仅是RAG
2024-09-19
从案例分析到客户沟通:AI提示词如何优化律师工作流程?
2024-09-19
o1 能带我们走进 AGI 吗?
2024-09-19
端到端的 NL2SQL 引擎: Super-Analysis 震撼来袭,一个不同于市面已有产品的存在
2024-09-19
解锁医疗新未来:Sunsimiao-7B 中文医疗大模型震撼登场
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-07-09
2024-05-09
2023-07-01
2024-07-25
2024-09-19
2024-09-19
2024-09-19
2024-09-19
2024-09-18
2024-09-18
2024-09-18
2024-09-18