智东西(公众号:zhidxcom)
作者 | 杨畅
编辑 | 漠影
智东西4月8日报道,近日,权威AI性能基准测试平台MLPerf发布最新Inference v2.0推理测试结果。这份备受IT圈关注的“战报”显示,成立于2019年的服务器企业宁畅赶超众多老牌国际服务器厂商,拿下了59项第一。
就在不久前,知名调查公司IDC发布最新《中国半年度加速计算市场(2021下半年)跟踪》,显示宁畅已位居中国加速服务器市场销售榜第二。
随着“东数西算”、绿色数据中心相关政策的出台,以及人工智能(AI)、云计算等技术和应用的加速落地,各行各业对于服务器性能相关的各项需求不断的发生变化,2021年国内服务器市场销售额同比增加12.7%,达250.9亿美元。各个服务器企业也不断推出自己的新产品,国内服务器市场竞争激烈。
想要在国内的服务器市场中成功突围,抢占更多的市场份额并不容易,那么宁畅是如何取得如此快速地发展的?而未来,随着政策、行业、技术的变化和发展,国内服务器市场又会有哪些变化,宁畅会选择如何去迎接这些挑战?智东西采访了宁畅的首席技术官赵雷,沟通探讨宁畅不断突破背后的技术积淀和战略思考。
一、拿下59项MLPerf测试第一,宁畅三款AI服务器立大功
本次MLPerf Inference v2.0测试共有超10家国际服务器厂商的数十种服务器产品参加。宁畅的X640 G40、X660 G45、X620 G40三款AI服务器斩获了其中59项测试的第一名。
作为一家成立并不久的玩家,宁畅是如何屠榜的?首先,让我们来看看宁畅的明星产品X640 G40 AI服务器。
X640 G40是一款定位为多应用场景的超级AI服务器,在Datacenter组所有已发布的产品中,赢得10类测试场景总体性能第一的成绩,也是本次测试中的全场第一。
再来看看宁畅X660 G45,这款服务器搭载具备NVLink超高速互联能力的NVIDIA A100 80GB Tensor Core GPU,在SSD-Mobilenet(目标检测移动端)模型测试的Multi-Stream(多数据流)场景测试中,取得了0.44的成绩,位居第一。
据悉,这一成绩得益于X660 G45具备的两大优势:一是GPU高速互联,二是每个GPU有专属的网络设备和存储,保证数据交互和读取的高带宽、低延迟。
最后,我们再来看看宁畅X620 G40。这款服务器搭载有4颗NVIDIA A2 Tensor Core GPU,取得了Datacenter组同配置15项第一,并且几乎所有模型测试中都表现优异,作为一款超级AI 推理服务器,X620 G40可以满足数据中和和边缘端的推理、编解码、虚拟化等需求。
今年是“十四五”第二年,智能计算中心等新基建仍是国家的发展重点。从2021年以来,国内至少有26座城市都陆续开始或者加速进行人工智能计算中心等人工智能算力基础设施建设。随着“东数西算”工程启动,全国算力一张网的建设需求更加紧迫。
根据IDC数据,国内AI市场规模已达21.8亿美元,同比增长42.2%。无论是从算力基础设施层面还是AI行业发展层面,中国AI相关产业对于智能算力的需求在相应的增加。
用户对能提供智能算力的AI服务器的需求也在不断增加。根据IDC预测,到2026年,中国加速计算服务器包括GPU等AI服务器的市场规模将达到103.4亿美元。宁畅的X640 G40、X660 G45、X620 G40这三款AI服务器所属于的服务器市场前景广阔,依托优异的性能表现,宁畅也已经取得了一些突出的成绩。
二、“智定”为核心,宁畅成第二,三方面因素加持
看完MLPerf战报,我们再来看看宁畅的另一项成绩单。那就是权威调查机构IDC的数据:2021年下半年,宁畅占到了国内加速计算服务器市场份额的8.5%,继续稳居第二。
宁畅首席技术官赵雷谈道,从成立到现在,宁畅是处于一个稳步上升的状态,宁畅的通用服务器和GPU服务器的销售额每个季度都有增长。
很长时间以来,国内服务器市场都是一个巨头掌握话语权的市场,为什么宁畅作为一家年轻企业,能够在AI服务器这条赛道冲出重围?结合与宁畅负责人的对话,我们可以看到大致有以下三方面因素:
首先,技术方面,宁畅有多年的积累。宁畅虽然成立仅2年多,但是技术团队已经有十几年的技术积累,技术人员在服务器领域的平均工作经验都是8年以上,主要的核心技术人员工作经验都在10年以上。
以GPU服务器为例,NVLink GPU服务器可以算是市场上最高端的GPU服务器之一,国内仅有3家企业推出了8卡NVLink GPU服务器,充分说明了宁畅具备深厚的研发实力。
其次,用户方面,宁畅的目标用户主要是大的行业用户,分布于互联网、金融电信、制造、医疗等多种领域。
目前,AI技术正加速在各行业深度融合和落地应用,场景非常多变,对于定制算力的需求也在上升,相应的定制服务器需求骤增。据IDC市场调研显示,全球服务器市场定制化产品采购份额已达30%以上。
而宁畅能快速响应用户的定制化需求,为用户在新基建和数字化转型中的定制化需求第一时间提供出符合要求的产品,从而实现长期的合作。
赵雷指出宁畅收到了很多用户的积极反馈和认可。宁畅的企业用户既有一些头部的互联网企业,还有一些行业主流的AI企业。宁畅为它们提供深度定制服务或OEM/ODM级别的定制服务。
第三方面是宁畅一直是紧跟政策需求和行业发展动向的。面对像双碳、新型数据中心等国家积极推进的政策措施,宁畅都在第一时间推出了相应的解决方案。
比如,国家规定新建的大型、超大型数据中心的PUE值不能超过1.3;同时,国家也在积极推进“东数西算”这项全国一体化大数据中心协同创新体系算力枢纽工程。于是,宁畅在近期推出了三款新系列液冷服务器产品:4U高密度服务器B5000 G4 LP、X660 G45 LP和通用服务器R620 G40 LP 2U,兼顾性能和能耗。
宁畅的B5000 G4 LP服务器拥有8个计算节点,采用的是全新的高效冷板式液冷散热方式,兼顾降低能耗和提升性能。专为AI深度学习训练开发的6U旗舰型液冷计算平台X660 G45 LP则是可以满足热功耗500W GPU散热需求,可配合200G的网络交换设备搭建GPU高速集群。宁畅的R620 G40 LP 2U服务器身形小巧、冷板可以灵活部署,能够根据业务需求进行弹性配置。
其实,对于宁畅来说,定制是宁畅服务器发展的核心定位。从成立之初的精细化定制目标,到2021年宁畅确定“智定+”战略并推出了兼顾性能和节能的G40系列产品,宁畅不断在升级其定制化的战略重点。宁畅参与本次MLPerf基准测试的三款服务器产品中有两款就是G40系列产品。
结语:服务器市场稳步增长,宁畅坚持定制为核心
根据IDC数据,2021年国内服务器市场销售额达250.9亿美元,同比增长12.7%,加速服务器方面,2021年中国市场规模同比增长68.6%。综合来看,国内市场对服务器的需求稳步增长。
2022年,随着各行各业的数智化转型进入深水区,AI服务器市场竞争也将更加激烈。作为服务器领域的新玩家,宁畅已实现了快速增长,市占率保持领先。如果宁畅能继续保持目前的发展态势,有望在国内服务器领域获得更多突破。