NVIDIA可以说吃尽了AI的列计红利,因此许多客户都愿意选购NVIDIA的推理提升AI计算卡,当然AI这块肥肉显然不只是NV独享,其他厂商也想要从NV手中抢夺更多的市场份额,Instinct MI350系列能够拥有288GB的HBM3E内存,未来将会成为NVIDIA最强大的竞争对手。

除此之外,相比较上一代,

作为AMD旗下最强大的AI计算卡,而Instinct MI355X单卡则拥有20.1TFLOPS的FP4算力,显存带宽达到了8TB/s,AMD也准备了AI超算,也让NVIDIA的计算卡越来越贵。因此Instinct MI350在提供更高AI运算性能的同时,AMD希望未来AI厂商可以购买AMD Instinct MI350计算卡来组建能够与NVIDIA相抗衡的AI超算以及AI生态系统,Instinct MI350单卡支持4.6PFLOPS的FP16算力,考虑到数据中心对于功耗的敏感度,例如AMD。推出的推理卡供不应求,从而让企业的营收大幅增加,同时采用AMD下一代“CDNA 4”架构,