近日，有专业媒体发布了浪潮NF5468A5服务器的深度测评报告，认为浪潮NF5468A5是一款性能强大、应用场景广泛的GPU服务器。该服务器硬件设计合理，可最大化发挥核心组件的性能优势，并通过分区散热设计保障服务器稳定运行,同时广泛兼容主流加速卡，计算性能强大，以更灵活的计算架构最大程度地满足用户在图像识别、自然语言处理、语音识别等多场景应用需求，并称之为“算力猛兽”。评测围绕系统整体设计及性能测试两个方面展开，不仅对NF5468A5的系统散热设计、架构设计等进行了较详细的解读，同时也展现了HPL、内存带宽、AI训练、AI推理、视频编解码、HASH等应用场景的各类测试数据。
我们引用了该篇评测报告，详细原文如下。同时，浪潮信息当前也推出了NF5468A5“超值机型限免试用”活动，对该GPU服务器感兴趣的不妨一试。
浪潮NF5468A5服务器
NF5468A5是浪潮推出的一款面向AI训练和AI推理、视频编解码等多种应用场景的全能型GPU服务器，在4U空间内搭载2颗AMDEPYC处理器，支持多达8张双宽加速卡。浪潮官网显示，这款产品已经支持NVIDIA、AMD、Intel、寒武纪、燧原等多家业界主流AI加速卡。
接下来，笔者将从系统解析、性能测试这两个方面对浪潮NF5468A5服务器进行测评。
1.NF5468A5系统解析
1.1整体系统设计
浪潮NF5468A5AI服务器采用了4U机架式机箱，高x宽x深为175mmx 478mm x 830mm。整体风格简约、硬朗，不论做工、还是用料、细节，均彰显出大厂品质。
前面板沿用浪潮一贯稳重的黑色，六边形的格栅结构由金属制成，可以将风扇高速旋转产生的湍流风切割成平稳的平流风，从而更平稳的吹向服务器内部。前面板右上角，电源键下方是ID、Reset按键和系统状态指示灯，前面板左上角则是VGA、两个USB3.0接口和管理接口。前面版的丰富接口，充分考虑了运维人员的工作场景，十分便捷。
从后窗来看，NF5468A5在4U空间内提供了8个全高全长双宽PCIex16的物理插槽，支持最新PCIeGen4,双向通信带宽高达64GB/s,相比PCIeGen3,功耗不变,但通信性能提升1倍。在此基础上产品还提供了3个全高全长单宽x16物理槽位，可支持25G/100G/200G双口光纤，或者千兆/万兆RJ45网卡以及8/16端口12Gb/sRAID卡，可满足客户对网络及存储的要求。同时可支持1个OCP3.0网卡专用插槽，支持热插拔，将网卡更换时间从20分钟缩短到1分钟，能够大幅提高运维效率。
NF5468A5支持4个电源模组，可以提供1600W~3000W功率的80PLUS铂金电源模块，效率高达94%,可选3+1冗余或者2+2冗余，多种组合的冗余电源设计，充分考虑了不同配置AI服务器的负载情况，保障稳定性。
整个服务器采用非常紧凑的布局设计，总共分成四个功能区域，从前往后依次是：磁盘存储区、系统散热区、处理器+内存区、GPU+IO扩展区。
下面我们先看下CPU和内存。这台样机搭配了2颗AMDEPYC 7543处理器，核心数达到了32核心64线程，基准主频2.8GHz，最大加速时钟频率3.7GHz，L3Cache 256MB，功耗225W。另外，浪潮官网介绍NF5468A5可支持2颗AMD基于"Zen3"微架构内核的EPYCMilan-X处理器，最高128个核心256线程、1536MBL3 Cache 以及18GT/s XGMI互连链路，CPUTDP最大支持280W。样机配置了16根32GDDR4内存，同时可以看到服务器主板整齐排布了32个DDR4内存插槽，最大容量可达8TB，内存总带宽750GB/s，支持RDIMM/LRDIMM等类型的内存条。NF5468A5强劲的处理器性能、巨大的内存容量和带宽，特别适合AI计算、云计算、HPC以及企业各类业务的工作负载。
笔者手上的这台NF5468A5，最吸引眼球的是本次测试样机搭配了8颗NVIDIAA10040G加速卡，从京东网上的报价看，8张A100的价格已经与一款中高端轿车相当，这究竟是一款什么样的AI服务器，笔者将带大家一探究竟。
我们来重点看一下NF5468A5的GPU模组。样机搭配了8张NVIDIAA100 PCIE 40GBGPU加速卡，由于每张卡功耗高达250W，服务器也给GPU板卡配置了单独供电线，保证GPU卡的稳定工作。为了满足PCIE卡的高功率运行，我们看到NF5468A5在GPU板上专门设计了4个用于大电流通流的busbar，据浪潮的工程师介绍，busbar的通流能力可以达到2880W，这对于各类PCIE加速卡的支持是非常强劲的。
NF5468A5提供了对丰富外插卡的支持，针对A100这种全高全长的卡配置了专用支架，搭配尾部锁片进行固定，这样能增强产品在运输过程中震动、跌落情况下的可靠性。我们翻开尾部锁片，旋转蓝色旋钮，就能非常顺利的取下GPU进行更换，这种针对PCIE卡免工具的操作非常人性化。
系统散热设计
从浪潮官网产品介绍中看到NF5468A5可以支持2颗280WCPU+8颗300W的GPU，在177mm的空间内浪潮究竟是如何实现的？笔者找浪潮工程师拿到了系统风流图，从中可以看出，系统整体风道采用前进后出的方式，散热风流主要从前面板的硬盘及下方开孔处进入系统。风流经系统风扇后通过导风罩的分配，一部分进入下层前排CPU和内存通道，一部分继续往后吹；经过CPU和内存后的风及未被预热的风大部分流向后方上面3U空间的GPU，小部分流向下面1U空间；最后经后面板流出系统。如此巧妙的风道设计和精准的风流控制，足见浪潮作为全球AI领导厂商深厚的设计功底。
这款服务器将整机柜产品中“风扇墙”的设计理念搬到了4U机箱中，“风扇墙”一共由6组可以单独维护的子风扇模组组成，风扇后部搭配了流线型设计的导风罩，覆盖了从风扇到GPU中间的区域，但整个导风罩并没有完全挡住风扇的出风区域，结合上面系统风流图也证明是为实现CPU和GPU独立风道的引流设计，避免风流的串扰，无论多“强悍”的CPU和GPU都可以驯服。
1.3架构设计
笔者查找了海外网站相关浪潮产品的介绍资料，找到一张产品的拓扑图，发现有别于传统CPU-PCIESwitch-GPU的设计，浪潮产品采用CPU-GPU直连方式。跟浪潮工程师确认，送测的NF5468A5也采用类似设计。工程师介绍，由于省去了PCIESwitch，2颗CPU与GPU的通讯延迟能降低200~300ns，同时GPU到CPU的通信带宽可以达到256GB/s，较GPU通过PCIESwitch只有1条与CPUPCIE通路比，带宽提升4倍，这种极致的互联架构设计，有助于提升GPU与CPU间数据通信的带宽，有效降低数据的处理延迟。
2.NF5468A5性能测评
2.1HPL测试
样机搭配2颗AMDEPYC 7543处理器，这款处理器是32核 64线程，基准主频2.8GHz，L3Cache 256MB，最大加速时钟频率最高可达3.7GHz，功耗225W。为了能够了解CPU实际性能，下面将采用HPL基准软件进行测试。
在计算机基准测试软件中，HPL是应用最广泛的基准测试程序之一。通过使用高斯消元法对稠密线性方程组进行求解，HPL可以准确测试系统浮点计算指标。在每年全球超级计算机排名TOP500中，HPL测试性能是唯一的评价标准。
由于笔者拿到的设备是一台未预装任何软件的裸金属服务器，为了进行相关测试，首先在上面安装了Ubuntu20.04操作系统。
【公司名称】四川旭辉星创科技有限公司
【代理级别】成都浪潮服务器代理商
【销售经理】李经理
【联系方式】座机：028-85596747 手机：13438344046
【公司地址】四川省成都市武侯区群益商务大厦1栋单元4层1-403
请用微信扫描二维码
