微信扫码
与创始人交个朋友
我要投稿
6月份在社区传播下,SuperSonic关注度跃升,Github Star将近1.5K,微信群用户超过1K,在此首先要对热心推广的伙伴表达感谢!
https://github.com/tencentmusic/supersonic/releases/tag/v0.9.4
【易用性】
文档包含【快速体验】、【项目架构】、【构建部署】、【FAQ】以及各功能模块的【概念释义】与【使用指南】,内容还在持续更新中,有任何关于项目的疑问可先通过文档了解,访问地址:https://supersonicbi.github.io/
过往不少用户在部署阶段会遇到各式各样的环境问题,最好的解决方式是引入Docker容器化。从0.9.4版本开始发布官方Docker镜像【supersonicbi/supersonic】,在docker daemon运行情况下只需要下载docker-compose配置文件启动即可:
wget https://raw.githubusercontent.com/tencentmusic/supersonic/master/docker/docker-compose.ymldocker-compose up -d
启动成功后,通过Docker Dashboard可以查看到3个运行容器,分别是 supersonic、mysql、chroma,然后可通过浏览器登录界面,访问地址:http://localhost:9080/
支持对接更多的大模型
社区群里提出最多的问题当属“是否支持XXX大模型”,尤其是近期openai禁用公告出来后,国产大模型自不必说要当自强。0.9.4以前主要通过openai接口协议来对接各厂商MaaS,包括Qwen、DeepSeek、GLM、MoonShot等,一般来说厂商为了兼容性都会支持。
然而,如果想要对接开源或自定义大模型,就需要有其他协议支持。0.9.4我们将langchain4j版本做了升级,站在巨人肩膀上,理论上只要langchain4j支持的接口协议,都能对接上。其中,最重要的是Ollama接口协议,它事实上已成为本地运行大模型的标准化协议,不管是发布还是使用,都类似Docker。
如何配置Ollama,其他还有哪些协议支持,请关注官网相关文档的更新,或者查看源码文件langchain4j-prd.yaml。
支持测试大模型连通性
从0.9.2开始SuperSonic支持在智能助理的粒度动态配置大模型,但是配置过后是否连通可用,并没有便捷的操作方式。参照传统BI平台,配置数据库后都可以一键测试连通性,0.9.4开始可直接在配置完大模型后,一键测试连通性。
接着大模型连通性测试的特性,另一种测试连通性的方式,可直接与大模型开启闲聊对话,开启方式是在助理里不配置任何工具。当然,有了闲聊模式,用户也可以把SuperSonic当作是大模型的UI客户端。
Agent = LLM + Knowledge + Memory + Tool
- End -
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-05-28
2024-04-26
2024-04-11
2024-08-21
2024-07-09
2024-07-18
2024-08-13
2024-10-25
2024-07-01
2024-06-17