四川浪潮服务器代理商_浪潮发布最新MLPerf基准测试结果

Admin 700 2022-09-16 11:51

加利福尼亚州圣何塞,2022 年 9 月 14 日 —领先的数据中心、云计算和 AI 解决方案提供商浪潮系统宣布,浪潮 AI 服务器在新发布的 MLPerf Inference v2.0 中取得了创纪录的成绩,性能大幅提升。 1 AI 基准测试结果。浪潮AI服务器在Closed部门半数以上的任务中处于领先地位,多项任务的性能较以往提升超过100%。


Inspur AI 服务器在 Closed 部门的 30 项任务中的 19 项中名列前茅,这提供了提交者之间的苹果对苹果的性能比较。其中,浪潮机架式服务器在数据中心类16个任务中获得12个冠军,在边缘类14个任务中获得7个冠军。浪潮成功捍卫了 11 项性能记录,并在 BERT(自然语言处理)和 3D U-Net(医学图像分割)等多项任务中实现了约 100% 的性能提升。


BERT强势领跑,Transformer性能大幅提升


21 家全球公司和研究机构为 Inference v2.1 基准提交了超过 10,000 个性能结果。浪潮NF5468M6J AI服务器采用开创性设计,单机24块GPU。浪潮提升BERT推理性能,基于Transformer架构,深度优化GPU轮询调度等策略,充分利用每颗GPU的性能,每秒可完成75000个问答任务。与之前 v2.0 结果中的最佳性能相比,这是一个巨大的 93.81% 跳跃。这也标志着 浪潮 AI 服务器第 4次成为 MLPerf 推理 BERT 任务的基准领导者。


浪潮NF5468M6J AI服务器实现破纪录的性能,比BERT任务中的亚军高出20%。NF5468M6J的成功得益于其出色的系统设计。它支持多达 24 个 A100 GPU,具有分层和可扩展的计算架构,并以优异的性能获得了 8 个冠军。在此次参展的采用NVLink技术的8个GPU的高端主流机型中,浪潮服务器在数据中心类别的16项任务中,有7项取得了最高成绩,在高端机型中表现领先。其中,浪潮旗舰级高性能AI服务器NF5488A5在4U空间内支持8个第三代NVlink互联A100 GPU和2个AMD Milan CPU和8个GPU。NF5688M6 是一款针对大型数据中心优化的具有极强可扩展性的 AI 服务器。


优化算法和架构,进一步提升性能


浪潮率先将超参数优化方案应用到MLPerf训练中,大大提升了性能。浪潮率先推出了 ResNet 收敛优化解决方案。在 ImageNet 数据集中,只有 85% 的原始迭代步骤被用于达到目标精度。这种优化方案将训练性能提高了 15%。浪潮也是第一个在MLPerf Inference benchmarks中使用自研卷积合并算法插件算子解决方案。该算法将性能从 123TOPS 提升到 141TOPS,性能提升 14.6%。


在架构优化方面,浪潮率先采用JBOG方案,大幅提升浪潮AI服务器在单节点上采用大量GPU的能力。此外,对高负载多GPU协同任务调度以及NUMA节点与GPU之间的数据传输性能进行了深度优化。这样可以实现 CPU 和 GPU 利用率的线性扩展以及多个并发任务的同时操作,极大地提高了性能。


浪潮致力于AI计算平台、资源平台、算法平台的全栈创新,通过MetaBrain生态合作伙伴共同加速AI产业化和各行业智能化发展进程。


作为MLCommons的成员,浪潮积极推动MLPerf基准测试套件的开发和创新,10次参与基准测试并获得多个性能冠军。浪潮在整体系统优化、软硬件协同优化、能耗比降低等方面不断创新,不断打破MLPerf性能记录,并与MLCommons社区共享技术,已被大量参与方使用制造商,并广泛用于后续的 MLPerf 基准测试。


【公司名称】四川旭辉星创科技有限公司

【代理级别】成都浪潮Inspur服务器总代理

【销售经理】李经理

【联系方式】座机:028-85596747    手机:13540160369

【公司地址】成都市人民南路4段 桐梓林 商鼎国际2号楼1单元1913

联系我们
您好,咨询客服了解更多促销产品
售前优惠在线咨询
QQ咨询
微信咨询
售前优惠电话咨询专线:
13438344046
售后电话咨询专线:
028-85596747

请用微信扫描二维码

1.267714s