为什么平头哥和英伟达在MLPerf基准测试中都获得了第一 (为什么平头哥不怕毒蛇)
语音播放文章内容
由深声科技提供技术支持
雷锋网按，本周，MLperf组织发布了第一个MLPerf Inference v0.5的结果，虽然这个基准测试还不成熟，但依旧获得了巨头公司的广泛关注。并且平头哥、英伟在成绩公布后纷纷发布消息表示自己成绩都获得了第一？
自去年初成立之后，MLPerf组织一直在稳步建立其机器学习到的Benchmarks。为了能够让机器学习处理器的基准测试也像CPU那样，该组织囊括了该行业中的所有知名企业，比如英特尔、NVIDIA、google和百度。从技术上讲，MLPerf基准测试还处于初期阶段，它们甚至还没有完成，但是该组织的成果引起发了巨大关注。
早在6月份，该组织就发布了第二个基准测试集MLPerf Inference v0.5。顾名思义，这是MLPerf组织的机器学习推理基准测试，旨在衡量各种加速器和系统执行训练后的神经网络的程度和速度。MLPerf Inference是测试推理性能的通用方法，它最终将成为衡量从低功耗SoC中的NPU到数据中心高性能加速器的标准。在基准测试首次发布的四个多月之后，MLPerf组织发布推理基准测试的首个官方结果。
基准测试的初始版本v0.5仍然非常不完整，它目前仅涵盖5个网络/基准，并且还没有功耗测试指标，这是衡量整体能源效率是必不可少的。尽管如此，基准测试的初始版本吸引了主要芯片公司的关注，这些公司都渴望展示其硬件在基准测试中的成绩，并向客户（和投资者）说明为什么他们的解决方案更好。实际上，第一轮官方基准测试提交了近600份结果，远超出了该组织非正式预期的全新基准测（通常需要一段时间才能建立新的行业基准），这更能说明了行业对MLPerf的期待，推理芯片数十亿美元的市场将继续快速增长。
随着第一轮申请工作的完成，MLPerf组织现在发布其Inference v0.5的官方结果，不过只是大多数（如果不是全部）主要芯片公司都在发布与结果相关的公告，声明或新闻稿。说实在的，600份提交的成果分布在40种不同的测试中，芯片公司还有很多事情可以做。缩小标准范围，每个人都可以找到成功的方案，例如总吞吐量、延迟，每个加速器的吞吐量等。这并不是基准测试本身，甚至也不是芯片公司所为，但这给我们提醒，即使初始版本足够广泛，也可以涵盖很多用例，尤其是在专用加速器的情况下，它们通常针对特定用例进行了优化。
作为更新，MLPerf v0.5分为5个基准，其中两个基准实质上是其各自主基准的移动衍生产品。当前这个套件的桌面/服务器版本涵盖了图像分类（ResNet50），对象检测（ResNet34）和机器翻译任务（GNMT）。所有基准测试都提供了四种方案：单路（一个终端运行一个任务），多路（一个终端同时运行多个任务），服务器（服务器的实时性能）和离线（不在线的服务器）。这些实质上将方案分解为终端和服务器方案，并从分解为相应平台的两个最常见方案。
更进一步，MLPerf提供了两个测试“分区”：封闭分区和开放分区。封闭分区是“苹果对苹果（apples-to-apples）”测试，芯片将获得预先训练的网络和预先训练的权重。在选择要使用的精度等级（只要满足精度要求）方面，芯片公司在量化方面仍具有一定的灵活性，但是在封闭的分区，他们的解决方案仍必须达到数学上的等效性，并且禁止重新训练网络。这个目的在于，测试平台能否很好地执行预训练好的网络。
相比之下，开放式分区显然更加开放。芯片公司被允许重新训练网络以及进行更广泛的量化工作。绝对不是封闭测试区那样的苹果对苹果，开放分区本质上是一种结构较少的结构化格式，可以让芯片公司以最佳的方式展示其解决方案和团队的独创性。
深入研究结果，MLPerf最终收到了从CPU和GPU到FPGA，DSP和专用ASIC等各领域的官方意见。正如一位MLPerf代表指出的那样，该组织实质上收到了除神经形态和模拟系统以外的每种类型处理器的成果。当然会有大公司的代表，包括NVIDIA的GPU、谷歌的TPU、英特尔的CPU和加速器以及Habana labs的Goya加速器。即使在封闭分区，也有一些预期外的结果，包括Raspberry Pi 4和阿里巴巴的含光800加速器。
总的来说，我不会在这里对结果进行过多的剖析，因为大量的测试意味着非常多的对比。更重要的是，缺少功耗测试意味着目前无法测量能效。但总的来说，几乎每个芯片公司都可以在某个类别中取得胜利。在离线测试中，看到了Google从1 TPUv3到32的几乎完美的拓展性，NVIDIA的Tesla加速器在一些测试中名列前茅，英特尔在CPU中位居榜首，高通的骁龙855在官方结果中也远远超过其它SoC。
关于MLPerf推理的第一组结果不会成为推理性能的最终成绩。在开发方面，MLPerf组织仍在努力完善基准，以添加其他网络类型，着眼于语音识别等任务。同样，该组织将进行功耗测试，以便每个人都能看到他们的设计效率，因为电源效率通常是大规模部署规划的最重要考虑因素。
尽管这些早期版本的MLPerf在添加和优化测试时和目标还有不同，但对于芯片公司来说，他们现在知道自己和竞争对手所处的位置。比参数更重要的是，机器学习优化的开放性性质意味着芯片公司还有大量空间来优化其系统以进行将来的测试，以及设计更好的新硬件。客户（其中许多人在MLPerf委员会中）希望加快工作进展。因此，既然第一个结果已经出炉，芯片公司就可以专注于其产品，并了解如何才能进行下一轮正式测试。
最后，从更长远来看，MLPerf Inference基准测试在未来几年内将趋于成熟（该组织目前尚未估计1.0何时准备就绪），这也意味着该基准测试将稳定下来，并且在芯片公司的性能实验室之外更容易使用。MLPerf组织已经发表评论说，他们将开发移动应用程序以加快对智能手机和其他智能设备的测试，并且我们期望桌面基准测试的情况也将日趋成熟。如果运气好的话，在不久的将来，我们将能够把MLPerf推理应用到我们自己的测试中，并将这些测试转换为有意义的结果，以比较消费类硬件。激动人心的时刻到来了！
雷锋网编译，via
原创文章，未经授权禁止转载。详情见 转载须知 。
云之家是面向企业服务的新一代智能协同云，旨在颠覆传统OA，门户、审批、考勤等应用，全栈适配国产信创生态；IDC相关数据显示，云之家连续第五年蝉联中国企业SAAS协同市场占有率第一，典型客户包括中国兵装、河钢集团、OPPO、碧桂园、华海通讯等各行各业的头部企业，以及云天励飞、褚氏农业、湖南力合等中大型企业和专精特新企业。
沈阳房屋建筑加固设计公司，主营:加固改造设计,厂房加固,别墅加固,商铺加固,地基加固,结构加固,建筑纠偏,电话:13889803650
4399乐高小游戏大全收录国内外乐高幻影忍者,乐高蝙蝠侠,乐高积木,乐高星球大战,乐高加勒比海盗,乐高玩具小游戏,乐高系列小游戏。好玩就拉朋友们一起来玩吧！
软吧下载为用户提供各类手机软件,安卓手游下载,为手游玩家提供最新手机游戏和安卓软件,还有精品详细的游戏攻略和软件教程,专为广大用户玩家服务,打造最全面的绿色游戏软件网站。
该站点未添加描述description...
深圳注册公司开心财税免费为企业提供工商注册代办,深圳代理记账,公司注销,工商变更等代理服务,还给用户提供福田,宝安,龙华,龙岗,南山,罗湖各区公司注册地址挂靠服务。
徐州市天益塑料制品有限公司生产的设备有塑料化粪池,检查井系列，波纹管系列，井筒管系列，油污隔离井,hdpe波纹管等。公司严格按照国家标准配置了实验室,塑料化粪池销售,注塑设备18台,制造塑料化粪池,管材生产线5条,年产能达3.5亿元。
今日热点网为网民提供全面立体的热点信息,内容包括与百姓生活息息相关的资讯、房产、汽车、人才、教育、美食、家居、交友、论坛等信息，是为大量网民提供无缝衔接的新媒体优质资讯的综合门户平台。
关注湖北省松滋市的大事、小事、新鲜事,提供各种信息和服务,展现松滋形象、扩大对外影响、宣传旅游文化、服务松滋人民。登录松滋100网，生活从此变简单...
皮皮鲲下载站提供手机应用和安卓游戏,电脑软件等，每天都会更新热门手游和软件，打造一个免费,绿色,安全,无病毒的软件下载基地。
奇异互动提供专业的云服务器,云虚拟主机,香港VPS,独立服务器,裸金属服务器,面向全球客户提供基于云计算的IT解决方案与客户服务,是国内专业的云服务器,云虚拟主机,香港VPS,独立服务器,裸金属服务器,基础设施服务提供商。
联轴器,万向联轴器,弹性联轴器,梅花联轴器,膜片联轴器,万向节,柱销联轴器
随着社会的经济发展，人口的流动不断的增加，人们外出旅游或者是外出工作以及出差，在外的话，很多人都会选择酒店，酒店入住方便，而且拥有优越的生活条件，并且很多的孩子都会有常常去住酒店的想法，市面上的酒店品牌很多，而莹润酒店就是一家具有很高的商业价值的酒店，酒店的环境好，服务的质量高，并受到消费者的认可，一些创业者也想要加入酒店行业，以获得...。
北汽电动车，一家新时代下的国有控股高科技上市公司和绿色智慧出行一体化解决方案提供商，致力于为用户创造电动化、智能化、个性化的驾乘体验，构建汽车与能源、互联网、AI人工智能产业融合发展的新生态、新格局，打造面向未来的绿色智能科技服务平台，至于北汽电动车怎么代理，一起去了解一下，自2009年成立以来，北汽新能源以电动化为突破口，以科技为核...。
很多人在周末的时候就会出门逛超市，购买自己日常生活需要的东西，现在大多数的人群都会选择智能超市，智能超市不需要排队，而且都是扫码付款，比较方便，因此也就出现了各种系列的智能超市品牌，E21智能超市一直都是有很强的实力，会为顾客提供贴心的服务，所售卖的产品种类很齐全，性价比很高，顾客都很喜欢去这个品牌超市购买东西，所以众多创业者发展了品...。
手机已经是生活必需品，人手一台，由于手机的快速发展也促使了手游行业迎来了迅速的扩展，现在多数人手机上都安装各类的手机游戏，休闲的时间玩玩手游打发时间，随着手游的广受欢迎，很多人开始加盟其中，龙创手游就是一个比较好的加盟项目，于是，大家都在问龙创手游加盟费，谁加盟过，接下来，跟着小编一起来看看吧！龙创手游本着玩家充值，你就收效的经营理念...。
其实有关面馆在市场上的发展还是很具有前景的，如今有很多人对于面食的追求也是比较高的，所以说选择加盟一家面馆，未来的发展也会很不错，但是在面馆行业中拥有很多的竞争力，所以在挑选品牌的时候应该要认识对于一般面馆加盟费多少钱，还是要看你所加盟的品牌了，一般面馆加盟费多少钱，说到面馆的品牌，可能很多人都比较青睐于2014年所成立的巴味仙面庄面...。
人靠衣装，美靠靓妆，很多女性朋友为了永葆美丽肌肤，焕发无穷魅力，就会时常光顾美容院，正是因为有这样旺盛的需求，国内美容行业也就取得了突破性的发展，不少创业者都想开一家美容院加盟店，那么，2016容院加盟什么牌子好，小编在此为大家推荐百莲凯美容院，百莲凯美容院成立于2001年，是美容连锁经营的先驱，百莲凯拥有独立的科研、生产及人才培训基...。
水果捞是一种制作简单、原材料易得的甜品，尽管价格不菲，却因其健康美味而受到消费者的喜爱，水果捞主要由各种新鲜水果、酸奶、冰沙、冰淇淋和干果仁等组合而成，尤其在夏季备受欢迎，常见的水果有西瓜、芒果、桃子、草莓、奇异果、哈密瓜、圣女果、火龙果等，制作方法简单快捷，即切即食，既新鲜又解暑，那么，现在开一家水果捞店前景如何?水果捞店因其健康美...。
餐饮行业一直都是很不错的行业，会因为一个网红或者一个网站，带动了一个品牌的发展，美食一直都是离不开消费者生活的，经过网络时代的传播，会有很多人知道这种品牌，就像鲜贝恋贝壳粉品牌，网络时代给这个项目带来了很多的销售额，现在成为了一种网红项目，有些智慧之选商关注了这个项目，在消费者的眼中的爆品，鲜贝恋贝壳粉加盟费多少，鲜贝恋贝壳粉的由来就...。
马上就到十一国庆了，假期里想好怎么穿搭了吗，在这个秋意浓浓的日子里，姑娘们也是时候为自己准备几件内搭单品了，那么女生秋季内搭怎么穿好看呢，今天丹比奴女装为大家献上时尚的五款内搭单品，怎么穿都不会出错哦！秋季内搭单品1，针织衫寒冷的秋季入手一件针织衫是必须的，作为经典色调的白色是内搭受欢迎的色彩之一，一款修身版型的高领针织衫，简约大气的...。
孩子的教育问题始终都是社会热门话题，在双减政策的加持下，推动素质教育行业的快速发展，AI技术得到很多家长的认可，为孩子们带去更好素质教育，北四网校AI智领学习平板历经二十多年发展，创意运营模式，先进教学理念，使其成为教育领域中的实力品牌，那么北四网校AI智领学习平板好加盟吗，售后服务如何，北四网校AI智领学习平板从品牌创建到现在已经有...。
现在的人都十分重视饮食营养，吃东西讲究营养，其实每一种食物都有自身的营养价值，都有它存在的意义，但是不同的烹制方法会使食物的营养价值流失，失去了食物本身的营养价值，在众多烹制方法中，清蒸或是蒸焖是一种很好的烹制方法，因为这种烹制方法不会造成食物的营养流失，小火老师焖锅是一家生意不错的餐饮店品牌，该餐饮店所销售的食物都是以焖为主，食物健...。
创业哪个项目好，近年来儿童阅读加盟行业持续保持增长状态，主要在于以下几点，·全民阅读、文化自信是大背景，阅读是一个比较好的创业切入口；·9月份新的中小学新教材上线，整本书阅读对孩子的阅读量、阅读能力提出了更高的要求；·AI时代，培养孩子的综合能力成为大趋势，而阅读是其中的重要途径……在这种背景下，以借阅，读书会，研学活动为运营模式的书...。
我们这么有愿景的一个团队，如果把我们看成只是做音箱的，团队，，我觉得是把我们的梦想说小了，百度集团副总裁、智能生活事业群组总经理景鲲在7月8日的媒体沟通会上称，由于，疫情，原因，今年小度的线下发布会少了很多，不过，从上半年的新品发布来看，，疫情，也并没有影响小度的产品迭代进度，甚至还由于大环境的特殊性，有了更多新的尝试，3月，小度...。
今日头条因阿迪新疆棉事件泡泡玛特推迟联名被判违约，网友不买账半月前，泡泡玛特成为被强制执行人，执行标的超1710万元，泡泡玛特回应称，该案件属于正常商业纠纷，已支付全部款项，但当时并未公布判决法院、案号等相关信息，一时间也引发社会各界不少猜测，如今谜底揭晓，近日，北京泡泡玛特文化创意有限公司与阿迪达斯体育，中国，有限公司申请撤销仲裁...。
随着AI的逐渐渗透和进一步成熟，如今的AI医疗影像赛道已经进入下半场，发展成为成熟参与者的游戏，而从资本动向看，无论是推想的9亿D，轮融资，还是数坤7亿元最新一轮融资，资本已经开始集中在头部企业抱团，换言之，这个行业的壁垒已经开始急剧升高，其它企业的生存空间被进一步压缩，在行业最后格局和市场蛋糕越来越明朗的前提下，又会有哪些头部企业在...。
中国中铁建工集团有限公司旗下拥有众多子公司，这些子公司涵盖了建筑行业的多个领域，其中，中国土木工程集团有限公司专注于土木工程的设计与施工，具备丰富的项目管理经验，另一家子公司中铁十一局集团有限公司则以桥梁、隧道等基础设施建设见长，此外，中国铁建大桥工程局集团有限公司也是中国中铁建工集团有限公司的重要组成部分，总部位于天津，主要从事桥梁...。
乳业主要销售的产品就是牛奶，奶制品，牛奶是古老的天然饮料之一，被誉为，白色血液，，对人体的重要性可想而知，牛奶顾名思义是从雌性奶牛身上所挤出来的，在不同地区，牛奶也分有不同的等级，目前普遍的是全脂、低脂及脱脂牛奶，目前市面上牛奶的添加物也相当多，如高钙低脂牛奶，其中就增添了钙质，中国的乳业相当之多，投入加盟一定要选择适合自己的，根据，...。
