支持私有化部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


三诺生物使用 Sealos 加速 AI 创新,构建慢病健康普惠新路径

发布日期:2025-03-19 14:58:25 浏览次数: 1788 作者:Sealos
推荐语

三诺生物携手Sealos,开辟AI技术在慢性疾病管理领域的新天地。

核心内容:
1. 三诺生物面临的AI客服挑战与痛点
2. Sealos如何助力解决AI开发难题
3. Sealos带来的技术优势与业务创新

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家



三诺算法工程师

“我们的用户以糖尿病人为主,他们可能带着情绪咨询,传统 AI 经常给出错误回答,导致客户投诉率上升 —— 这不仅关系到客服团队的绩效考核,也会影响到品牌形象和用户的信任。”

公司简介


三诺是一家利用生物传感技术,针对慢性疾病患者和医疗健康专业人员,研发、生产、销售一系列快速诊断检测慢性疾病产品,并提供相关专业服务和糖尿病数字健康管理的高新技术企业;致力于为全球糖尿病及相关慢性疾病的人们提供创新、优质的产品和服务,帮助他们提高生活质量。

作为国内血糖监测领域的领军企业,三诺始终将创新作为企业发展的核心驱动力。随着 AI 技术的兴起,三诺敏锐地意识到 AI 在慢病管理、智能客服等领域的巨大潜力,并成立了专门的 AI 探索小组,积极探索 AI 技术的应用。

面临挑战

三诺的 AI 探索小组最初聚焦于 AI 客服场景,希望通过 AI 技术提升客服效率,降低人力成本,改善用户体验。然而,在实际开发过程中,他们遇到了诸多挑战:

  • 大模型幻觉问题:大模型输出不稳定,经常出现 “一本正经地胡说八道” 的情况,导致客服质量难以保证。

  • 开发部署复杂:传统 AI 开发流程繁琐,需要编写大量代码,配置复杂环境,部署和运维难度大。

  • 资源成本高昂:AI 模型训练和推理需要大量的计算资源,传统模式下资源利用率低,成本居高不下。

  • 团队协作困难:AI 探索小组的成员并非都是专业的算法工程师,传统开发模式下,团队协作效率低,难以快速迭代。

张依奔

“我们之前的技术路径受限于 Langchain 框架,只有具备编程能力的团队成员才能做,而且在实际应用中我们发现,大模型直接输出存在 “幻觉” 现象,因为他经常说一些不着边际的话,就是一本正经地胡说八道,这种 AI 输出与业务需求脱节的问题,实际上是当前行业普遍面临的挑战。”

为什么选择 Sealos?

为了解决上述问题,三诺开始寻找更高效、更便捷的 AI 开发解决方案。在对比了多种方案后,他们最终选择了 Sealos。Sealos 之所以能够脱颖而出,主要得益于以下几个方面的优势:

  1. 简化开发流程:Sealos 提供了云开发和 Devbox 等工具,极大地简化了 AI 应用的开发流程。云开发允许开发者无需关心底层基础设施,只需编写业务逻辑代码即可快速部署应用。Sealos 团队的另一款产品 FastGPT 则提供了强大的 AI 编排能力,帮助开发者轻松构建复杂的 AI 应用。

  2. 弹性资源调度:Sealos 基于 Kubernetes 构建,具备强大的容器编排和资源调度能力,可以根据 AI 应用的实际需求自动调整计算资源,确保应用在高峰期也能稳定运行。

  3. 高可用性保障:Sealos 的容器化架构和 Kubernetes 的自愈机制,保证了 AI 应用的高可用性。即使出现故障,系统也能自动恢复,最大限度地减少服务中断时间。

  4. 与阿里深度合作:Sealos 与阿里云深度合作,底层基础设施跑在阿里云上,数据安全性和稳定性得到了充分保障。

三诺算法工程师

“我们在使用当下就很震惊,Sealos 在开发和运行等方面确实非常的好用,并且普通人都能很快上手。

实施过程

在选择了 Sealos 之后,三诺的 AI 探索小组迅速开始了 AI 客服的开发和部署工作,完整技术路径可分为两个阶段:

第一阶段:技术验证

  • 使用 FastGPT 的 UI 界面进行内部测试,快速验证 AI 客服核心功能

  • 通过可视化编排实现:用户问题分类 → 知识库检索 → 大模型核验 → 结构化输出 → 人工抽查的完整流程

  • 重点解决大模型 “幻觉” 问题:大模型只负责幕后任务,最终输出仍为客服审核过的话术和图片视频素材,杜绝捏造、错误引导、乱开药、乱诊断等问题

第二阶段:生产部署

  1. 技术栈组合

  • Sealos:采用 Sealos 云操作系统作为基础平台

  • Sealos 云开发:开发灰度调度、消息解析、记忆缓存、异常状态监测、Ican 平台 API 接入等定制功能模块

  • FastGPT:通过 API 对接三诺 APP 和 CRM 系统,日均服务 5~6 千位用户,处理 2~3 万次对话

  • 关键优化措施

    • 第一层:基于规则引擎的关键词过滤

    • 第二层:人工审核样本的持续学习

    • 在 FastGPT 流程中增加双重校验机制:

    • 采用 Sealos 弹性伸缩策略,应对早晚高峰流量波动 (峰值 QPS 从 15 提升到 45)

    三诺算法工程师

    “我们现在的技术栈是 Sealos + 云开发 + FastGPT 的组合,这套方案既能通过 FastGPT 的流程编排降低开发门槛,又能用云开发实现定制化业务逻辑。比如最近客服希望 AI 收到的催发货的信息能发到企微,从需求提出到上线只用了 3 天。”

    效率提升 20%,成本降低 50%

    通过使用 Sealos,三诺的 AI 客服开发取得了显著成效:

    • 客服效率提升:灰度测试中,AI 客服能够一次性解决约 20% 的用户问题,显著降低了人工客服的工作量。

    • 开发效率提升:开发周期从原来的几天缩短到几分钟,实现了 “一天和一分钟的区别”。

    • 资源成本降低:IT 硬件资源成本降低了 50% 以上。

    • 团队协作改善:非专业开发人员也能参与 AI 应用的开发和维护,团队协作效率大幅提升。

    三诺全球客服中心经理

    “我们主要这边体现的是从人力节省方面,我们基本上按照现有的框架梳理出来的这个客服模型的话,大概能提效 13%~20% 左右。”

    未来展望

    三诺计划未来将 Sealos 应用于更多的 AI 场景,并积极探索更多技术合作:

    • GPU 资源需求:Sealos 接下来会上线独立的 GPU 可用区,以满足三诺在 AI 模型训练和推理方面的需求。GPU 资源将支持直接运行模型、使用 Docker 镜像部署大语言模型以及微调训练等多种使用场景。同时,Sealos 还将提供完善的 GPU 资源管理工具,帮助企业更好地管理和优化 GPU 资源的使用。

    • 异地多中心架构:针对数据库异地备份需求,Sealos 团队将邀请数据库专家与三诺团队一起进行配置。虽然配置过程较为复杂,但通过持续增量迁移功能可以实现异地多中心架构,从而提高数据容灾能力和系统高可用性。

    • 拓展 AI 应用场景:三诺的终极目标是实现 AI 医疗,计划将 AI 做成智能体,从当前的客服场景逐步拓展至:

      • 健康管理师角色:协助进行医疗监管工作

      • 医生助手角色:辅助医生诊断和治疗

      • 多渠道覆盖:包括医院、ToB 等不同场景

      • 智能慢病管理:利用 AI 提供智能化的慢病管理服务

    • 规模化部署:三诺计划在本月开启大规模试运行,重点关注:

      • 服务器稳定性保障

      • 高峰期资源调配

      • 用户规模扩展 (预计 APP 日活用户将增长三倍)

    总结

    作为医疗行业数字化转型的标杆企业,三诺的智能客服经历了从大模型 “答非所问” 到日均处理 2~3 万次对话的跨越式发展,随着三诺 2 代 CGM 产品上市,未来预计日均处理 5~6 万次对话。

    当看到客服人员从重复劳动中解放出来,转而处理更有价值的服务及慢病沟通时,我们更加确信:好的技术方案不该让企业 “削足适履”,而要让业务 “如虎添翼”。


    53AI,企业落地大模型首选服务商

    产品:场景落地咨询+大模型应用平台+行业解决方案

    承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

    联系我们

    售前咨询
    186 6662 7370
    预约演示
    185 8882 0121

    微信扫码

    添加专属顾问

    回到顶部

    加载中...

    扫码咨询