微信扫码
与创始人交个朋友
我要投稿
“卷模型不如卷应用,作为一个在公立医院工作的非正式程序员,把 AI 的某一个特性功能应用到医院的日常的工作中,解决某一个痛点这就是最好的创新、最实用的“卷”。”云南省富源县人民医院医疗装备科的工程师李工说到。
在临床工作中,有很多医疗设备种类,每种产品类目又包含多个企业的多个产品型号,不同的型号功能不同维护也不同。比如设备的清洁消毒,呼吸机和监护仪都需要消毒,但是消毒方式可能不一样,甚至呼吸机A型号和B型号消毒方式也不尽相同。因此,必须要针对具体型号的产品说明做精准内容的召回。
而随着AI大模型的应用、随着RAG技术的发展,在向量数据库高性能、高准度的检索能力支持下,“精准召回”这个挑战就变得不那么困难了。
01.
精准召回没那么简单
“我们联合兄弟单位申报的国家卫健委《2024年医学工程科研项目》顺利通过审批,拿到了立项通知书,这给了我在这条路上继续探索强大的信心。”
李工提到的项目正是团队在探索的将 AI 大模型应用于医疗设备和医用耗材领域,业务流程依赖于 RAG+LLM 的功能,以便于给临床提供指定型号的设备或耗材的精准指导。
在使用RAG技术之前,单纯通过LLM来进行临床医学设备的知识问答往往会出现幻觉,无法实现准确回答,“不准确”这个对于医疗装备领域来说存在很严重的问题,直接影响到后续的医疗效果和设备维护。
团队采用Dify作为全流程开发平台,其内置的流程编排器方便上手,大模型服务提供商也非常全面,再加上专业向量数据库在背后做知识库支撑,整个医疗装备知识库就初见雏形。然而将设备文档一股脑存到知识库当中仍然会存在问题,例如监护仪下就是所有品牌的监护仪,呼吸机下就是所有品牌的呼吸机。
这种做法带来了两个严重的后果:首先,搜索特定品牌的机器时,可能会错误地召回其他品牌的说明;其次,搜索同一品牌下特定型号的内容时,可能会错误地召回其他型号的信息。这种混淆显然是不符合医疗工作对精准度的严格要求的。
精准召回没那么简单,而向量数据库,是支撑整个RAG体系运行的一个关键。最终,李工团队选择了Zilliz Cloud ,让整个项目系统达到了满意的效果。
02.
专业的事情交给专业的人去做
2.1 精准的向量召回
在业务的实际运行过程中,系统将每台设备的知识进行切片,每个切片额外再加上设备型号的标记,然后将打上标记的切片进行Embedding之后再存入Zilliz Cloud,存入Zilliz Cloud还会增加标量信息,如设备型号,设备分组等,可以通过Zilliz Cloud的混合查询(Hybrid Search),Partition Key分组隔离等功能,大大提高召回的精准度和查询响应效率,解决了不同品牌、不同型号设备之间知识库混乱问题,医护人员使用体验上有了很大提升。
从业务流程上看,我们只需要在产品SmartAI输入关键词
,SmartAI即可输出召回内容
,系统其实是经过知识导入→分片→Embedding→向量召回→LLM处理
这样的一系列操作。
基于Zilliz Cloud 创建的Cluster当前可提供百万级租户的能力,同时满足数据隔离和查询效率需求。
2.2 更优的使用体验、更专业的技术支持
“我本身是不具备向量数据库技能的,那么最好的办法就是将专业的事情交给专业的人做。Zilliz Cloud给我们提供了非常专业的服务,虽然说要花点钱,但是我觉得很值得、很省心。同时,业务上线后,“我们发现Zilliz Cloud带来了更快的召回速度和更精准的召回质量。”李工如是说。
2024年,Forrester 针对市场上主流向量数据库供应商进行了评估,在Q3发布了Forrester Wave™报告中,Zilliz获评全球领导者,提供的开箱即用的向量数据库云服务Zilliz Cloud可提供99.95%的SLA及全天候的技术支持,李工提到“我们与Zilliz有一个专门的业务群,任何问题在群里都能得到及时的回复,同时我们也会交流后续的一些想法以及正在研究的东西是什么。”
03.
星星之火,可以燎原
目前,SmartAI技术已经成功集成到数智医工APP——专业的医学装备全周期管理软件。而在临床实践中,医护人员对医疗设备的熟练操作和对报警信息的准确理解对于保障患者安全至关重要。因此,如何帮助那些忙碌的医护人员迅速、便捷且准确地获取相关知识点,成为了一个需要持续关注和投入的重要课题。
李工强调,SmartAI的应用并不仅限于富源县人民医院,目前正向整个云南省推广。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-01-02
权威+AI,百度百科打出王炸
2025-01-02
从企业级 RAG 到 AI Assistant,阿里云 Elasticsearch AI 搜索技术实践
2024-12-31
优化检索增强生成(RAG)管道:实现更智能AI回应的高级技术
2024-12-30
GraphRAG结合普通RAG,打造Hybrid RAG
2024-12-30
RAG融合技术探索与应用
2024-12-27
【已更新】深入LLM与RAG 原理、实现与应用
2024-12-27
影响RAG检索效果的原因有那些?
2024-12-26
GraphRAG和轻量级LightRAG技术及应用案例深度解析
2024-07-18
2024-09-04
2024-05-05
2024-06-20
2024-05-19
2024-07-09
2024-07-09
2024-07-07
2024-06-13
2024-07-07
2024-12-30
2024-12-27
2024-12-26
2024-12-24
2024-12-21
2024-12-14
2024-12-01
2024-11-27