AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


华为MindIE初体验:Qwen1.5-14B-Chat模型40并发推理实测
发布日期:2024-07-14 01:13:15 浏览次数: 2640 来源:算法工程笔记


最近发现华为NPU的生态里多了一个成员——MindIE,部分解决了大模型推理的问题,下面简要介绍下Mind华为昇腾NPU卡的生态。

TL;DR

  1. 华为NPU生态新增了MindIE,部分解决了大模型推理问题
  2. 华为昇腾NPU与英伟达GPU生态层级对比:
  • CANN 对应 CUDA
  • MindSpore 对应 PyTorch
  • MindFormer 对应 Transformers
  • MindIE 对应 vLLM
  • MindIE目前支持的模型有限,包括:
    • LLaMA 3-8B, LLaMA 2-7B
    • Qwen 1.5-14B-Chat, Qwen 1.5-72B-Chat
    • ChatGLM3-6B
    • 未列出的模型大概率不支持
  • MindIE推理性能测试(使用910B4卡):
    • 并发数: 40
    • 首token平均延迟: 66毫秒
    • 每秒生成token数: 约1200
    • 单请求每秒生成token数: 约30
    • 模型: Qwen 1.5-14B-Chat
    • 硬件: 4卡910B4
    • 测试条件:
    • 测试结论
  • 测试结果显示,MindIE的推理性能基本可以满足生产环境需求
  • 基本概念

    首先,在英伟达的生态中,有从底层到上层分别有CUDA、PyTorch、transformers、vLLM等常见库。对应的,在华为的生态中,分别有CANN、MindSpore、MindFormer、MindIE。具体对应关系见下图:

    关于MindSpore、MindIE的详细介绍,分别见下面的图与链接:

    MindSpore——https://www.mindspore.cn/

    MindIE——https://www.hiascend.com/software/mindie

    MindIE目前支持的模型们

    华鲲振宇AI最优解/ Ascend-FAQ的gitee[1]页面上,介绍了MindIE目前支持的模型,包含了llama3-8B、llama2-7B、Qwen1.5-14B-Chat、Qwen1.5-72B-Chat、chatglm3-6B等模型。

    目前看支持的大模型很少,而且页面上没有写的大概率不支持(比如Qwen1.5-32B-Chat以及Qwen2系列实测均不支持)。

    MindIE推理效果

    虽然支持的模型不多,但是,得益于910B系列卡的强劲算力,配合MindIE框架做了下并发推理测试,具体结果如下:

    可以看到4卡910B4,跑Qwen1.5-14B-Chat模型,在40并发的情况下首token平均延迟为66毫秒每秒token生成数在1200左右单个请求每秒生成token数约为30个,基本可以满足生产环境的需求


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询