浪潮资讯在 MLPerf Training v1.1 中的 7 个标题在 AI 性能上令人印象深刻

Admin 872 2021-12-06 13:23

加利福尼亚州圣何塞--(美国商业资讯)--开放工程联盟 MLCommons 发布了其最新的 Training v1.1 结果。浪潮资讯提交了NF5280M6机架式服务器NF5688M6服务器全部8个单节点封闭划分任务的结果,其中7个胜出。

MLPerf 由 MLCommons 建立,是 AI 性能基准,已成为客户购买 AI 解决方案的重要参考。对于 Training v1.1,有 14 个组织参与。提交了 180 个封闭部门和 6 个开放部门任务的结果。

封闭的部门竞争非常激烈,因为它需要使用参考模型来对竞争提交进行客观的、逐个比较的比较。基准测试涵盖了八项具有代表性的机器学习任务,包括图像分类 (ResNet50)、医学图像分割 (U-Net 3D) 和自然语言处理 (BERT)。

Inspur 的 NF5270M6服务器 在 4 项任务中表现最佳:自然语言处理 (BERT)、重量级对象检测 (Mask R-CNN)、推荐 (DLRM) 和医学图像分割 (U-Net 3D)。NF5488A5 在 3 个任务中表现最佳:图像分类 (ResNet50)、对象检测轻量级 (SSD) 和语音识别 (RNNT)。 

 全栈AI解决方案,AI训练速度突破

由于其独特的软件和硬件优化,浪潮 AI 服务器在 MLPerf v1.1 中领先于单节点性能。与Training v1.0相比,浪潮在医学图像分割、语音识别、推荐、自然语言处理方面的AI训练速度分别提升了18%、14%、11%和8%。

这种增强的速度使浪潮 AI 服务器每秒可以处理 SSD 中的 12,600 个图像、RNNT 中的 8,000 条语音或 ResNet50 任务中的 27,400 个图像。

在 ResNet50 中,浪潮优化了图像的预处理,使用了 DALI 框架,并在 GPU 上运行解码以防止 CPU 瓶颈。这些持续的优化让浪潮在最近三个基准测试中在 ResNet50 排名中名列前茅。

浪潮在 MLPerf 基准测试中的领先表现归功于其卓越的系统设计和 AI 全栈优化。在硬件层面,浪潮的NF5260M6服务器PCIe Retimer Free设计实现了CPU和GPU之间的高速互联,让AI训练中的IO传输无瓶颈,提高效率。针对高负载的多GPU协同任务调度,优化和校准NUMA节点与GPU之间的数据传输,保证训练任务中的数据IO不阻塞。浪潮使用 A100-SXM-80GB (500W) GPU,这是业内功率最高的 GPU。这导致开发了先进的冷板液冷系统,以确保这些高功率 GPU 能够在全功率下稳定工作,保证完整的系统性能。

MLPerf 2021 正式落下帷幕,Inpur Information 赢得 44 个冠军


MLPerf Training v1.1 结果标志着MLPerf 2021的落下帷幕。作为2021年44项冠军的获得者,浪潮展示了其领先的AI训练和推理性能。


浪潮AI服务器NF5488A5、NF5688M6和边缘服务器NE5260M5分别获得了18、15、11个冠军。


NF5488A5 是首批推出的 A100 服务器之一。它在支持液体和空气冷却技术的 4U 空间中支持 8 个第三代 NVlink A100 GPU 和 2 个 AMD Milan CPU。


NF5688M6是一款针对大规模数据中心优化的AI服务器,具有极强的可扩展性。它支持 8 个 A100 GPU、两个 Intel Ice Lake CPU 和最多 13 个 PCIe Gen4 IO 扩展卡。


NE5260M5服务器可定制各种高性能CPU和AI加速卡。430mm的机箱深度是普通服务器的一半。这与减振和降噪优化以及严格的可靠性测试相结合,使其成为边缘计算的理想选择。


【公司名称】四川旭辉星创科技有限公司

【代理级别】成都浪潮Inspur服务器总代理

【销售经理】李经理

【联系方式】座机:028-85596747    手机:13540160369

【公司地址】成都市人民南路4段 桐梓林 商鼎国际2号楼1单元1913

联系我们
您好,咨询客服了解更多促销产品
售前优惠在线咨询
QQ咨询
微信咨询
售前优惠电话咨询专线:
13438344046
售后电话咨询专线:
028-85596747

请用微信扫描二维码

1.282305s