AI 生态大网 服务器市占率超 看浪潮如何编织 中国 2017 57% AI (aiot生态发展大会)

文章编号:45289 资讯动态 2024-12-09 硬件人工智能
AI生态大网服务器市占率超看浪潮如何编织中国20 浪潮集团 AI影响因子 活动浪潮集团专访专访

随着深度学习带来 AI 的第三次浪潮,对 AI 的相关讨论层出不穷,算法是大家关注的重点。

算法固然重要,但想做好 AI,还需要强大的底层支撑。谷歌在训练 alphago Zero 时,用到 2000 块 TPU,仅仅花费三天就完成训练。目前,企业 AI 化的需求不断加深,需要有非常强大的计算平台来有力支撑线上推理和线下训练。

AI 计算平台涉及到 GPU、CPU、TPU、FPGA 等硬件,每类硬件背后都有代表企业。英伟达 GPU 以卓越的性能,在 AI 计算中占据了相当大的市场;英特尔在 CPU 上有得天独厚的优势,并擅长布局生态,譬如将 CPU 与 FPGA 相结合;谷歌瞄准深度学习场景,发布专用 TPU 加速器。

在 4 月的浪潮云数据中心合作伙伴大会(IPF2018)上,浪潮首发面向 AI 云设计的弹性 GPU 服务器 NF5468M5,可灵活支持 AI 模型的线下训练和线上推理。(目前,浪潮在雷锋网学术频道 AI 科技评论旗下数据库项目「 AI 影响因子 」中得分为 8 。)

2017 中国 AI 服务器市占率超 57%,看浪潮如何编织 AI 生态大网

这一服务器具备以下功能:

据浪潮介绍,AI 云对基础架构的设计带来了新的挑战,要求 AI 服务器具备适合于不同 AI 训练场景的 GPU 灵活拓扑、AI 线上推理的高并发低延迟与高能效比、大规模 AI 数据的存储与通信能力。基于此,结合英伟达 GPU 芯片的良好性能以及稳健生态,浪潮做出一系列创新,推出 NF5468M5。

除了最新发布的 GPU 服务器 NF5468M5,浪潮的服务器还涉及 CPU、FPGA。浪潮通过实测数据,分析不同场景下人工智能计算对服务器的性能要求,合理搭配以 CPU、GPU 和 FPGA 为核心的 AI 计算服务器。以下是两个典型案例。

适用于多个应用场景的 FPGA 加速设备 F10A

F10A 是一款 FPGA 加速设备。基于 FPGA 具有可编程专用性,高性能及低功耗的特点,浪潮 F10A AI 线上推理加速方案针对 CNN 卷积神经网络的相关算法进行优化和固化,可加速 ResNet 等神经网络,能够应用于图片分类、对象检测和人脸识别等应用场景。

这一服务器的单芯片峰值运算能力为 1.5 TFlops,每瓦特性能达到 42 GFlops。同时,F10A 具有灵活的板卡内存配置,最大支持 32G 双通道内存,能够寄存更多的并行任务数据。

最大支持 64 块 GPU 的 SR-AI

SR-AI 单机可实现支持 16 个 GPU 的超大扩展性节点,该方案最大支持 64 块 GPU,峰值处理能力为 512 TFlop,可支持千亿样本、万亿参数级别的模型训练。该服务器打破了传统服务器的 GPU/CPU 紧耦合架构,通过 PCI-e Switch 节点连接上行的 CPU 计算/调度节点和下行的 GPU Box,实现 CPU/GPU 的独立扩容,避免传统架构升级带来的部件过度冗余,使得 GPU 扩展无需同步配置高成本的 IT 资源,可将成本优化 5% 以上,随着规模上升,成本优势更加明显。

浪潮表示,在计算平台的选择上,企业可以在适合线下训练的计算加速节点采用浪潮领先业界设计的浮点运算能力强、高扩展的 GPU 服务器,或 KNM 计算加速器,而用于线上识别的计算加速节点采用浪潮低功耗、高能效比的 GPU 服务器,或者低功耗定制优化推理程序的 FPGA 加速器。

2017 中国 AI 服务器市占率超 57%,看浪潮如何编织 AI 生态大网

图:浪潮 GPU 服务器产品家族

2017 年,浪潮 AI 服务器在中国 AI 市场占有率超过 57%,阿里巴巴、腾讯和百度三家运营商 90% 以上的 AI 服务器都来自浪潮。

对于浪潮在 AI 服务器上的成功,浪潮 AI&HPC 总经理刘军将其归功于三个方面,一是对 GPU 的布局早,二是对行业客户的把握——把互联网作为主航道,三是产品创新的能力和效果有保证。

日前,浪潮也公开了企业 AI 策略。

2018 年 4 月 26 日,在浪潮云数据中心合作伙伴大会 IPF2018 上,浪潮发布全新 AI 品牌 TensorServer,明确传递浪潮对 AI 业务的决心与愿景。浪潮集团副总裁彭震对 TensorServer 品牌予以了诠释:「Tensor 是算法的基础元素,Server 是计算力的基础架构。AI 基础架构对于 AI 产业持续快速健康发展至关重要。TensorServer 意在成为 AI 的承载者与赋能者,整合创新 AI 基础架构系统,以计算开启可进化的智慧世界。」

这里的 AI 基础架构系统涵盖平台、管理、框架、应用多个方面。

在 AI 管理上,浪潮部署 AIStation 人工智能深度学习集群管理软件。AIStation 主要面向深度学习计算集群,提供数据处理、模型开发、模型训练、推理服务全流程服务,支持多种深度学习框架,能够快速部署深度学习训练环境,全面管理深度学习训练任务,为深度学习用户提供高效易用的平台。此外,这一软件可以对计算集群的 CPU 及 GPU 资源进行统一的管理、调度及监控,有效的提高计算资源的利用率和生产率。

2017 中国 AI 服务器市占率超 57%,看浪潮如何编织 AI 生态大网

作为补充,浪潮还自研 Teye 应用特征分析系统。Teye 主要用于分析 AI 应用程序在 GPU 集群上运行时对硬件及系统资源占用的情况,反映出应用程序的运行特征、热点及瓶颈,从而帮助用户最大限度的在现有平台挖掘应用的计算潜力,进而为应用程序的优化以及应用算法的调整改进提供科学的指引方向。

而在框架上,浪潮早在 2015 年就发布 Caffe-MPI 深度学习计算框架,他们在 Caffe 架构的基础上,针对并行扩展性做出一系列创新。

据雷锋网了解,最新版本 Caffe-MPI 在 4 节点 16 块 GPU 卡集群系统上训练性能较单卡提升 13 倍,其每秒处理图片数量是同配置集群运行的 TensorFlow 1.0 的近 2 倍。

Caffe-MPI 设计了两层通信模式:节点内的 GPU 卡间通信及节点间的 RDMA 全局通信,这极大降低了网络通信的压力,并克服了传统通信模式中 PCIE 与网络之间带宽不均衡的影响,同时 Caffe-MPI 还设计实现了计算和通信的重叠。此外,新版本 Caffe-MPI 提供了更好的 cuDNN 兼容性,用户可以无缝调用最新的 cuDNN 版本实现更大的性能提升。

除了自研深度学习框架,浪潮将深度学习框架及其依赖的库统一进行资源封装成一个镜像,之后便可以在任何支持资源封装的浪潮平台上随时加载镜像,用户可以立刻开始工作,其工作环境与原始环境完全一致,这可以有效提升生产力。目前,浪潮可封装的框架资源基本涵盖了主流的深度学习框架,包括 Caffe/Cafee-MPI、TensorFlow、CNTK、MXNet 以及 PaddlePaddle 等。

在应用加速上,雷锋网了解到浪潮的解决方案如下:

浪潮 AI 解决方案专家与客户商讨深度学习应用场景,共同分析计算热点和瓶颈,帮助设计适合客户应用场景的系统方案。

浪潮异构应用专家可以帮助客户分析 CPU 代码特征,辨别是否适合迁移至异构加速部件,并共同将代码热点进行移植优化,提升应用的计算效率,时间更短。

浪潮针对 GPU/FPGA/KNM 等主流异构加速部件拥有成熟的横向评测方法,可以帮助客户选择适合的部件。

目前,浪潮的解决方案为行业 AI 转型提供赋能支撑。

浪潮与百度合作推出 ABC 一体机,这一设备集合了百度自研的集群管理软件、优化引擎和浪潮 AI 计算硬件平台,支持 PaddlePaddle、TensorFlow、Caffe 等主流深度学习框架,内嵌成熟的算法模型和云管理技术。

据浪潮介绍,ABC 人脸识别一体机支持百度人脸检测、1:1 人脸对比和 1:N 人脸查找三大人脸识别核心能力,可以根据人脸面部的 72 个特征点识别多种人脸属性,如性别、年龄、表情等信息,并计算人脸相似度,可用于用户身份。

2017 中国 AI 服务器市占率超 57%,看浪潮如何编织 AI 生态大网

图:浪潮与百度携手打造 ABC 一体机

此外,浪潮很早就开始与科大讯飞合作训练语音神经网络模型,从将模型训练从 CPU 单机上扩展到多机,而后又开展如何在 FPGA 上运行语音神经网络模型的研究,实现更高的性能。

目前,浪潮在计算平台、管理套件、框架优化和应用加速上已经形成有机的 AI 生态。刘军表示,对于渴望 AI 转型的企业,从客观看,极其需要这四层能力,而浪潮作为赋能者,能将这四层能力赋予这些企业,让其更快速地实现 AI 落地。

原创文章,未经授权禁止转载。详情见 转载须知 。

2017 中国 AI 服务器市占率超 57%,看浪潮如何编织 AI 生态大网

全局中部横幅
商品信息验证中心

商品信息验证中心官方查询网站

和园区

和园区是贝吉特科技旗下智慧园区解决方案落地产品专家,提出以“落地服务应用、实际管理提升、园区价值体现”为宗旨的智慧园区3.0建设模式。VEGITTO贝吉特科技公司秉承“以空间为基本点,以人为中心,以企业为要素,以经济价值为目标,以产业价值为体现”的现代化园区建设指导思想,为客户提供智慧园区咨询、顶层设计规划、园区运营管理平台建设、园区服务产品落地和园区产业价值呈现等全方位的智慧园区解决方案,助力园区实现产业集聚和产业结构优化升级,致力构建可持续发展的智慧产业生态,解决智慧园区痛点及覆盖各智慧园区场景,是业内先进的智慧园区解决方案实际落地实施服务商。和园区目前已服务国内30+产业园区,包括产业园区、工业园区、科技园、软件园、文创园、教育园、高新区、经开区、产业新区、科学城、智慧小镇等,成为各类型产业园区智慧化和数字化赋能的优质服务提供方。

蔻德罕见病中心

一家专注于罕见病领域的非营利性组织,为患者提供登记,患者组织孵化,高峰论坛报名,罕见病信息查询等服务。

遂宁冷库安装,遂宁冻库造价,遂宁冻库安装,遂宁保鲜库设计,遂宁小型冷库安装公司,遂宁气调库建造,遂宁冷藏库价格,遂宁冷库设备,遂宁冷库,遂宁冻库,遂宁气调库,遂宁保鲜库工程

遂宁大洋绿洲制冷工程有限公司,13880221178造价低8%,冷库修建造价合理,专业承接各类大小型冷库、冻库、蔬菜保鲜库,水果保鲜库、气调库、冷藏库、设计安装,专业从事冷库设计、销售、安装8年,服务于上千余客户.

东莞市晶美电子科技有限公司

东莞市晶美电子科技有限公司是一家专业研发、生产、销售各种型号声表面滤波器,谐振器,石英晶体谐振器、石英晶体振荡器等频率器件的知名企业,电话:076985072732

大同展柜公司

本公司主要从事大同电器展柜安装,烟酒展柜制作,眼镜展柜销售,鞋帽展台生产,大同电器道具、大同服装道具设计,以及大同内衣展柜、大同化妆品展柜、大同数码电子展台、大同家纺展台等其他商场展柜展台的加工设计制作;要问定制展柜哪家好,大同珠宝展柜定做选哪家,哪里有眼镜店展柜、服装展柜制作,朔州展台品牌有哪些,大同展柜批发多少钱,大同道具设计,化妆品展柜设计,展厅展台设计费用多少,珠宝展柜定制,展柜订制,展柜展台制作哪家便宜,实物展台价格,展柜制作厂家,展柜制作公司,展柜定制厂,展柜厂家,展柜加工厂,展柜公司,大同展台制作公司哪家好,实力强,质量好,当然还是找本公司;主营区域:山西,太原,晋中,榆次,阳泉,忻州,朔州,大同,长治,晋城,临汾,运城,吕梁,离石。

喷砂机,自动喷砂机,手动喷砂机,喷砂房,抛丸机,喷丸机,喷砂设备,喷砂加工,浙江通宝表面处理设备科技有限公司

浙江通宝表面处理设备科技有限公司-生产基地占地面积20000平方.核心产品:喷砂机、自动喷砂机、抛丸机、喷砂房、喷砂处理、抛丸清理等表面处理设备;外贸级别工艺,让喷砂变得更简单是我们的使命!咨询热线:13336023458,上海喷砂机械可根据客户需求,提供各式喷砂房、手动喷砂机械等喷砂设备设计方案.

竹叶小微

竹叶小微,竹叶小微app主要是针对小微企业和个体户为核心人群开放的,以融资为主的服务平台.竹叶小微提供纯线上、无纸化信贷服务,可实现极速申请,为中小企业融资服务保驾护航.贷款app下载就找竹叶小微!

郑州安瑞耐材科技

安瑞耐材始建于1988年,公司专注于耐火材料、轻质砖、浇注料、高铝砖的生产,研发,销售。经过30年用心打造好品牌的理念,生产技术及装备能力的不断提升,综合实力不断增强,成为集耐火材料研发、生产、销售、窑炉技术配套服务为一体的现代化耐火材料企业。

江苏九盛印染设备有限公司

江苏九盛印染设备有限公司(原江苏鹏辉印染机械有限公司)创建于1986年,北长江,所在地区内铁路、高等级公路纵横成网,常州长江公路大桥飞架大江南北,水陆交通十分便利。

龙岩公交广告首页

公司成立于2010年,公司主营:龙岩公交车身广告龙岩公交站台广告龙岩公交看板广告龙岩公交电视广告全面覆盖:龙岩新罗区,永定区,漳平市,长汀县,上杭县,武平县,连城县欢迎来电4001-186-786。

全局底部横幅