AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Nature:人工智能出病理报告,准确率高达89.5%!
发布日期:2024-07-17 16:40:38 浏览次数: 1887 来源:Hanson临床科研



随着人工智能(AI)技术的快速发展,多模态生成式AI助手在多个临床领域展现出巨大的潜力。

在病理学领域,计算病理学的进步使得基于图像和语言的综合分析成为可能。2024年6月12日,哈佛医学院的科学家针对名为PathChat的多模态生成式AI助手的研究发表在Nature杂志。

结果显示:PathChat能够理解并处理视觉和语言输入,提供精确的病理学相关查询响应;从活检切片中正确识别出疾病的准确率高达89.5%。而且,与其他病理学工具不同,该系统可以与用户讨论结果。

在该研究中,这个结合视觉编码器和大型语言模型(LLM)的多模态生成式AI助手PathChat的核心组件包括

  • 视觉编码器预训练于超过100万张病理学图像,以提取高维图像特征。

  • 多模态投影模块将视觉特征映射到LLM的嵌入空间,使得视觉和语言信息可以结合处理。

  • 大型语言模型(LLM)使用13亿参数的Llama 2模型,能够处理复杂的自然语言指令并生成响应。



研究方法与数据集

为训练和评估PathChat,研究团队构建了一个包含456,916条指令的数据集,其中包括999,202次问答回合。数据集来源多样,涵盖了图像说明、PubMed开放获取文章、病理学病例报告和全视野图像的兴趣区域。

此外,研究团队还创建了一个高质量的病理学问答基准(PathQABench),包括从多家医院收集的105例全视野图像。评估方法包括多选诊断问题和开放性问题,分别测试PathChat在病理图像分析和临床背景结合诊断中的表现。


主要结果

  1. 多选诊断问题表现:

  • 无临床背景下:PathChat在多选诊断问题中表现优异,准确率达78.1%,显著高于LLaVA 1.5和LLaVA-Med(分别提高52.4%和63.8%,p < 0.001)。

  • 有临床背景下:结合临床背景后,PathChat的准确率进一步提升至89.5%,相较于无临床背景提高了11.4%。

  • 开放性问题回答表现:

    • PathChat在开放性问题回答中生成的响应被专家评估为更准确和更受欢迎。相较于GPT4V,PathChat在回答病理学相关复杂问题时表现更佳。

    • 在“显微镜检查”和“诊断”类别的问题中,PathChat的准确率分别为73.3%和78.5%,显著高于GPT4V的22.8%和31.6%(p < 0.001)。

  • 专家评估:

    • 专家评估显示,PathChat在多项任务中的表现均优于其他多模态语言模型,包括LLaVA 1.5和LLaVA-Med。在“显微镜检查”和“诊断”类别中,PathChat的表现尤其突出。


    编者按:


    随着人工智能的发展,AI医学助手进入到临床已经成为必然。

    PathChat作为一个多模态生成式AI助手,展示了其在病理学领域的巨大潜力。通过结合视觉和语言输入,该助手不仅在诊断准确性上表现出色,还在病理学教育和研究中具有重要应用价值。


    临床应用:

      • PathChat能够辅助病理医生进行更准确的诊断,提高诊断效率并减少误诊风险。其结合视觉和语言的能力使其在处理复杂病例时尤为有效。

      • 该AI助手还可用于医学教育,为病理学培训提供专家级指导,缩小区域医疗差距。

      • 但目前就讨论AI医生替代病理科医生尚早。之前在北京协和医院病理科工作的Dr. Meng认为,90%的准确率仍然太低了。病理学研究员 Lou Vaickus 亦表示,目前仍无法依赖AI助手的诊断。


        科研启发:
      • PathChat展示了多模态生成式AI在病理学中的广泛应用前景,未来研究可以进一步优化该模型,如通过人类反馈强化学习(RLHF)降低错误生成。

      • 未来的研究方向还包括支持输入整张全视野图像(WSI),提高在诊断边界性病变时的实用性。

      • AI助手准确率仍有待提高,也提出了重要而未解决的临床问题:目前阶段如何利用AI助手,未来如何让AI助手的准确率超过病理科医生。


    53AI,企业落地应用大模型首选服务商

    产品:大模型应用平台+智能体定制开发+落地咨询服务

    承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

    联系我们

    售前咨询
    186 6662 7370
    预约演示
    185 8882 0121

    微信扫码

    与创始人交个朋友

    回到顶部

     
    扫码咨询