AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


一文了解RTX4090 GPU八卡机的“市场乱象”
发布日期:2024-11-11 12:49:29 浏览次数: 1618 来源:IT技术分享-老张


前言,智算中心建设持续带动GPU服务器的采购需求,英伟达RTX 4090 GPU凭借优异的性价比,其八卡的GPU服务器采购需求量猛增,呈现出“供不应求”缺口巨大的情况。市场上各种“妖魔鬼怪”都出来了,号称有货“什么都能搞”,这时候客户侧就懵了,因为不了解行情不熟悉产品,不敢贸然下单,从客户角度的几个核心问题概括如下:

  • 1、产品价格是否合理

  • 2、下单后能不能供货

  • 3、供货后能不能使用

  • 4、设备质量是否稳定

  • 5、售后处理的时效性

要综合评估“价格、货期、性能、质量及服务能力”等因素,我们需要分析各类市场信息,接下来我们展开聊聊!

一、产品的货源和品牌情况

客户在进行4090八卡机的采购时,通常首先进行品牌和货源的分析,常见的选择有品牌机、组装机、“二手”机

1、品牌机:指国内知名的服务器品牌厂商,价格相对较高,但是品质、供应和服务等相对较好,值得一提的是top前几名的服务器大厂原则上是无法直接提供4090整机的,原因是4090属于消费级游戏卡,英伟达对服务器厂商有明确的销售限制,如果要进行4090整机出货,只能通过服务器的分销或代理商进行二次加卡后出货。

2、组装机:这个大家都懂(指的是自研能力差,采用市场上现有的部件进行简单组装后出货),为了能在GPU服务器市场分一杯羹,最近一年多市场上冒出来非常多GPU服务器的小品牌,主打灵活,老板一般有野路子,比如能搞到相对便宜的4090 GPU卡,在整机层面可以做到相对较好的价格,用低价和货期吸引客户,可能的风险是质量、售后和性能调优服务上,和服务器知名厂商肯定是有差距的。

3、“二手”机:就比较好理解了,包括GPU卡在内,CPU、内存、硬盘、网卡甚至机箱主板都可能是旧的(拆机件),核心优势就是纯粹的价格便宜,一般供应能力和售后服务能力较差。

客户为了评估厂商产品品质和供应能力,一般会采用审厂的方式进行现场考察,现场查看库存情况和生产的环境和工艺。

二、产品平台类型、CPU代差及GPU拓扑

这个专业性相对较强,同一品牌的4090八卡机也包括很多细分的类型,比如整机平台是选择Intel还是AMD,选择第几代的平台,是CPU直通还是通过PCIe SW互联,各有优劣,简单介绍如下:

1、Intel平台的通用性相对更好,但是性价比方面AMD更有优势,所以现在很多租赁平台的4090机器都是AMD CPU的,如果选择Intel CPU的租赁的价格要略高一些。

2、目前不管是Intel还是AMD,在售的平台代数都有多个选择,比如Intel的第二代、第三代和第四\五代,AMD的第二\三代和第四代,主要是PCIe版本不同,存在价格差距,目前价格有优势的是AMD二三代平台。

3、GPU是直通还是PCIe sw扩展,在4090八卡机上会有较大的价格差距,直通的方案价格更优,PCIe sw的方案扩展性更好。

三、GPU卡的分为涡轮和风扇

数据中心主流的是涡轮卡,搭配4U的标准机型可支持8-10张双宽的4090 GPU卡,但是涡轮卡4090经常出现供应不足的情况,为此市场上出现了多个风扇版4090服务器的方案,比如5或6U的8\10卡,7U8卡,但都不是大厂品牌,受限于品牌方自身产品设计和生产工艺,在市场上的表现并不理想,常见的问题有掉卡、调优能力不足、售后不及时等。

超微平台的4U8卡服务器

风扇卡的优势是非改装,价格略低,GPU卡享受品牌质保,但是尺寸更大,需要的更大的服务器内部空间,对散热要求更高;涡轮卡也是品类繁杂很多都是小作坊将风扇卡改装的,因此在稳定性方面表现不一。很多大客户往往对4090涡轮卡的品牌都有明确要求。

图片来自于网络,6U8卡风扇4090机器

四、采购模式分为整机、平台+卡分开供货

客户正常情况下是以整机的方式采购,但是现阶段供不应求,倒逼客户选择分开采购的方式,平台+卡通过不同采购渠道,从平台的维度,很多ODM、机箱厂商都纷纷加入市场价格竞争力优势明显,供应能力较强,对服务器厂商造成不小冲击,从GPU卡的维度,客户通过各种“非常规”渠道采购多品牌的卡,价格要比整机采购更有竞争力,但是和平台的兼容性存疑,经常出现故障率高的问题。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询