更新慢 地平线提出的MAPS会更好吗 AI基准测试MLPerf模型少 (地平线 更新)
AI算法的算力需求与AI芯片算力增长之间的差距有多大？从增长的速度看，AI算法的算力需求每年是指数级的增长，但AI芯片的算力只能以倍数增长，且难度越来越大。这是业界都非常关注的问题，本月的ccf-GAIR 2020峰会AI芯片专场上，六位大咖都提到了这一挑战。
因此，无论是从AI芯片长远的发展还是促进AI芯片更好落地的角度，业界都期待有一个公认的AI芯片Benchmark（基准测试）。2018年，MLPerf组织成立，为了让MLPerf能够像成熟的CPU、gpu的Benchmark一样，MLPerf囊括该行业中绝大部分知名企业和机构。推出两年的MLPerf还不够成熟，但包括英伟达、谷歌、阿里巴巴在内的大公司都乐于用最新版本的MLPerf基准测试成绩强调其产品实力。
不过，地平线联合创始人兼技术副总裁黄畅在中国计算机学会（CCF）主办，雷锋网、香港中文大学（深圳）联合承办，鹏城实验室、深圳市人工智能与机器人研究院协办的CCF-GAIR 2020 峰会AI芯片专场的演讲中指出， MLPerf有模型更新慢、模型少、模型选择受各种因素影响的挑战。他 也首次提出了新的方法用以评估芯片的AI真实性能——MAPS (Mean Accuracy-guaranteed Processing Speed，在精度有保障范围内的平均处理速度)。
MAPS是评估AI芯片真实性能更好的方法吗？
地平线联合创始人兼技术副总裁黄畅
每类极具代表性的处理器都有常用的性能评估指标，比如CPU用MIPS，GPU用Texture和Pixel评估性能，高性能计算用浮点运算速度TFLOPS（Floating-point operations per second， 每秒浮点运算次数）。进入AI芯片时代，AI 芯片推理通常不需要浮点计算，而需要大量的整型运算，这样峰值算力TOPS（Tera operations per second，每秒万亿运算次数）成为了AI芯片性能指标最直观的参数。
但问题在于，峰值算力体现的是芯片性能的理论上限，实际使用过程中真正有效的算力与峰值算力差别很大。这是因为，芯片的计算架构、带宽、AI算法、数据重用性等问题都会导致芯片算力的有效利用率与峰值性能之间的巨大差距，有时差别可能高达几十倍。
但有一个业界公认的评价标准又意义重大。 黄畅接受雷锋网采访时表示：“业界有一个AI芯片的评价标准最重要的意义在于让行业形成一种合力，让大家都有一个相对清晰的目标，容易形成共识、形成协力，健康地推动整个行业向前发展。”
MLPerf在2018年顺势推出了MLPerf Inference v0.5，获得全球芯片公司和知名机构的支持， MLPef最新成绩公布总能引发不少关注。作为还不够成熟的Benchmark，MLPerf当然也有很多挑战。
黄畅指出，MLPerf的思路是选定模型比谁快。选定的模型要求不管做量化或其他操作，它和原始浮点的精度差异不能超过1%。也就是说，MLPerf是在保证精度相同的条件下比谁的速度快，模型的选定是一个值得研究的课题。 不容忽视的是，提交者与组织博弈又带来了模型选择受各种因素影响的问题。
与此同时， MLPerf模型更新慢（图像分类模型在MLPerf Inference v0.5和MLPerf Inference v0.7没有更新）、模型少（仅有两个图像分类模型，只覆盖了70%和76%两个精度）。 学术界图像分类，ImageNet的主流精度范围在[75%,80%]的问题，这让MLPerf无法及时反映算法效率提升、难以反映各种精度下的速度全貌。
“要达成一个所谓的标准是极其困难的，因为大家虽然目标大致相同，但出发点不一样。“黄畅同时指出，评估芯片的AI性能，应该换一个角度，可以从准、快、省这三个维度。”
“准”是反应实际任务上的算法精度，在不同的任务中，学术界已经有比较多共识。“快”通常有两个维度，延迟和吞吐率。“省”就是成本和功耗。黄畅认为，对于AI芯片的性能评估来讲，准和快是两个非常重要的因素。同一个芯片下，两个因素负相关，快了就会牺牲准确性，准了往往需要付出速度的代价，因此需要放在一起折中考量。
AI芯片性能的评估需要快、准、省，在这三个维度下地平线提出的新的AI芯片性能评估的方法称为MAPS（Mean Accuracy-guaranteed processing speed），意思是在精度有保障的范围评测芯片的平均效能，得到一个全面、完整、客观、真实的评估。
黄畅表示，MAPS对行业有六个创新之处：
MAPS的计算为公式为：MAPS = 所围面积 /（最高精度-最低精度） ，含义为在 ImageNet 的主流精度范围（75%~80%）下，速度最快的模型所代表的点（由精度和帧率确定）所围多边形面积大小即为芯片处理ImageNet AI任务的能力大小。
其代表的真实的AI效能也有对应的公式：MAPS/Watt &MAPS/＄=TOPS/ Watt &TOPS/＄ X Utilization X MAPS/TOPS
这三个要素中，第一个TOPS/Watt、TOPS/$是传统的方式。中间的要素有效利用率，是根据架构特点，利用编译器等去统化地解决极其复杂的带约束的离散优化问题，得到一个算法在芯片上运行的实际的利用率，实际是软硬件计算架构的优化目标。第三个要素是AI算法效率，指的是每消耗一个TOPS算力，带来的实际AI算法性能，体现的是AI算法效率的持续提升，过去几年AI算法效率提升非常快。如2014年提出的VGG19计算量是2019年提出的EfficientNet B0的100倍，同时EfficientNet B0精度更高，相对于算法效率每9个月提升一倍，大幅快于18个月翻倍的摩尔定律。
黄畅表示，“三个要素中，第一个反映的是旧摩尔定律，第三个反映的是新摩尔定律。前段时间Open AI Lab以及其他的研究机构都发现， 过去几年算法提升效率非常快，几个月的时间效率就会翻倍。如果我们关注这样的效率的提升，应该把握这三要素中最主要、变化最快的要素，并且根据这个要素去指导处理器架构的设计，进行关键的取舍决策。 ”
地平线为什么要提出MAPS这样的评价指标？黄畅在分享中也提到，“这个概念其实受到了edgeTPU的启发。它在设计之初，并没有充分考虑高效算法的发展趋势。所以当EfficientNet算法出现的时候，并不能很好适配到EdgeTPU上。但谷歌将该算法针对EdgeTPU的特点进行了专门的优化，得到速度更快、精度损失非常少的一组模型EfficientNet-EdgeTPU。 这一点和我们自己的摸索和实践是一致的——算法的选择只是手段，真正的目的应该是其在具体芯片运行所表现出来速度和精度。 ”
以ImageNet图像分类任务为例，EdgeTPU运行不同模型的精度和帧率
如何理解？为以ImageNet图像分类任务为例 ，如上图所示，横轴表示芯片的处理速度，衡量方式是每秒帧率（FPS），纵轴表示芯片的处理精度，度量方法是Top1分类精度。 因为在边缘应用领域，过高（会过慢）或者过低（会不准）的处理精度都不具备实际的应用价值。不失一般性，MAPS评估方式选择75%~80.5%为精度保障范围。
针对某芯片，将某算法模型运行得到的处理速度和精度用一个点表示在该图上，尝试多种不同的选择，并将精度保障范围内位于最右侧（即速度最快）的若干点和上、下、左边界所围多边形面积大小，除以该多边形的高，即MAPS=所围多边形面积 /（最高精度-最低精度） ，得到该芯片的MAPS值单位仍是FPS，表示在此精度保障范围内的平均处理速度。
图为MAPS评估方式下主流芯片测试结果，右一折线为地平线最新一代芯片测试结果
黄畅说：“可以看出，同样标称4TOPS算力的芯片的表现差异还是很大的，在MAPS上甚至有将近2倍的差异，地平线即将推出的新一代芯片和11.4TOPS峰值算力的芯片相比，虽然在精度较高的区间上稍有劣势，但是在追求速度和延迟低的场景中会有明显的优势。”
他同时表示，“这只是一组基于EfficientNet模型评估的结果，相信随着算法不断演进，这些曲线会不断地发生变化。我们也希望有更多的软件、算法工作者，在MAPS评估方法的启发下，秉承开放包容的态度，在自己最擅长的能力上持续推动AI芯片能力的发挥。”
AI芯片当下最为关键正是满足应用的需求实现大规模落地，在这个过程中，如果能够有一个标准，既能降低AI芯片的选择难度，也能让业界达成共识朝着相同的目标努力。但正如黄畅接受采访时所说：“达成所谓的标准极其困难，要达成共识最根本的还是用商业化落地的结果，最终回归价值创造本身。”
为此， 地平线提出了MAPS评估方法，其重要核心在于放下成见，包容所有的选择。 MAPS能否获得业界的广泛认可仍有待观察。
最后，还有文章开头提到的AI芯片性能与AI算法需求之间的尖锐矛盾，有人提出了开放硬件的解决方法。对此， 黄畅表示：“无论是我还是地平线，我们都相信开放是一个更好的选择，尤其是把时间轴拉长，把整个价值体系放得更宽，开放一定是更好的选择。因为没有什么比开放更能够汇聚力量。”
注：文中配图来自地平线
新基建浪潮下AI芯片的绝佳机遇 | CCF-GAIR 2020
评价一款AI芯片最关键的指标是什么？ | CCF-GAIR 2020
原创文章，未经授权禁止转载。详情见 转载须知 。
重庆网站排名,根据网站的综合值按照不同的重庆网站进行筛选排名结果,通过筛选重庆网站可以看到每个重庆网站里面的网站排名优质的网站是哪些
微盘是一款简单易用的网盘，提供超大免费云存储空间，支持电脑、手机等终端的文档存储、在线阅读、免费下载、同步和分享是您工作、学习、生活的必备工具！
滁州市南谯区百聪草坪专业合作社位于安徽马尼拉草坪种植基地——滁州市珠龙镇，马尼拉草坪销售热线：15205500909，我们的草坪的品种齐全，质量好，价格优惠。凭着本本分分的生产经营赢得了许多的客户的好评，目前已经辐射到了周边几个省市，生产量可以满足任何客户的需求。主要生产经营的品种有：马尼拉，百慕大，高羊茅，虎皮草(中华结缕）等各种草坪。
苏州奥京物流机械有限公司是从事进口OPK,手动堆高机,油桶倾倒车,不锈钢工作台,手动拖板车,无尘车间耗材,电动旋转平台车,电动滚筒平台车,电动堆高机的销售厂家,业务范围已覆盖江苏,上海,浙江,等地.
海峡东南眼镜是一家专注于东南眼镜、东南眼镜加盟、眼镜加盟为一体的现代化眼镜企业，是一家集眼镜检查，验光、配镜、隐形眼镜配戴为一体的专业眼镜店。详询13950429652
傲蓝软件科技公司是一家专注行业管理软件的软件开发公司，提供行业软件开发，自主开发的软件包括冷库管理软件、（管理软件,销售管理软件,销售管理系统,门店连锁管理软件,会员管理软件,租赁管理软件,冷库租赁管理系统,物流管理软件,物流管理系统,仓库管理软件,库存管理软件,行业软件开发,管理软件开发），傲蓝软件官方网站竭诚为大家服务。
安天移动安全是安天科技集团旗下专注移动用户安全的科技公司，自主创新的安全引擎覆盖全球超20亿移动智能终端，为智能终端的用户生态实现全场景覆盖的移动应用安全治理，对导致用户权益受损的不良行为和黑灰产进行技术响应，并为开发者提供专业安全辅导和配套产品服务
-单体液压支柱密封质量检测仪，三用阀试验台，拆柱机，锚杆预应力检测仪，增扭器，顶板离层仪
河北铸翰教育科技有限公司专注于教育资源的开发与深耕，开发先进的教育产品，提供完善的教育服务，构建专业化的互联网运营平台，书法小状元隶属于铸翰教育旗下，是集教材研发销售、线上书法课程和线下双师课堂于一体的书法教育品牌。
莱安电气│PLC自动化控制箱│PLC变频控制柜│PLC恒压供水控制箱│电气控制柜│游泳池控制箱│精密列头柜控制系统│水泵控制柜│成都配电箱柜│成都成套电气厂│箱柜厂
淮安小唐渔业机械是一家专业生产吸螺机，田螺捕捞机，田螺捕捞船，吸田螺设备等。现场操作，技术先进，欢迎咨询。
傲科是一家国际领先的模拟半导体芯片设计厂商，专注于模拟、混合信号和光电集成芯片的设计、开发、制造、销售
吃喝毕竟是人生大事，所以餐饮行业的发展基本没有衰落过，对于现在的消费者来说，他们注重的不仅是吃饱，还有吃好，吃得有特色，因此现在的餐饮行业变得越发繁荣起来了，投身于餐饮市场的创业者越多，该行业的竞争也越激烈，所以每一家餐饮店在开业时都会举办活动，吸引客源，那么餐饮店开业营销方案有哪些呢，1、发传单说到发传单，大家脑子里肯定会浮现这么个...。
随着社会的经济发展，人口的流动不断的增加，人们外出旅游或者是外出工作以及出差，在外的话，很多人都会选择酒店，酒店入住方便，而且拥有优越的生活条件，并且很多的孩子都会有常常去住酒店的想法，市面上的酒店品牌很多，而莹润酒店就是一家具有很高的商业价值的酒店，酒店的环境好，服务的质量高，并受到消费者的认可，一些创业者也想要加入酒店行业，以获得...。
北汽电动车，一家新时代下的国有控股高科技上市公司和绿色智慧出行一体化解决方案提供商，致力于为用户创造电动化、智能化、个性化的驾乘体验，构建汽车与能源、互联网、AI人工智能产业融合发展的新生态、新格局，打造面向未来的绿色智能科技服务平台，至于北汽电动车怎么代理，一起去了解一下，自2009年成立以来，北汽新能源以电动化为突破口，以科技为核...。
很多人在周末的时候就会出门逛超市，购买自己日常生活需要的东西，现在大多数的人群都会选择智能超市，智能超市不需要排队，而且都是扫码付款，比较方便，因此也就出现了各种系列的智能超市品牌，E21智能超市一直都是有很强的实力，会为顾客提供贴心的服务，所售卖的产品种类很齐全，性价比很高，顾客都很喜欢去这个品牌超市购买东西，所以众多创业者发展了品...。
手机已经是生活必需品，人手一台，由于手机的快速发展也促使了手游行业迎来了迅速的扩展，现在多数人手机上都安装各类的手机游戏，休闲的时间玩玩手游打发时间，随着手游的广受欢迎，很多人开始加盟其中，龙创手游就是一个比较好的加盟项目，于是，大家都在问龙创手游加盟费，谁加盟过，接下来，跟着小编一起来看看吧！龙创手游本着玩家充值，你就收效的经营理念...。
其实有关面馆在市场上的发展还是很具有前景的，如今有很多人对于面食的追求也是比较高的，所以说选择加盟一家面馆，未来的发展也会很不错，但是在面馆行业中拥有很多的竞争力，所以在挑选品牌的时候应该要认识对于一般面馆加盟费多少钱，还是要看你所加盟的品牌了，一般面馆加盟费多少钱，说到面馆的品牌，可能很多人都比较青睐于2014年所成立的巴味仙面庄面...。
人靠衣装，美靠靓妆，很多女性朋友为了永葆美丽肌肤，焕发无穷魅力，就会时常光顾美容院，正是因为有这样旺盛的需求，国内美容行业也就取得了突破性的发展，不少创业者都想开一家美容院加盟店，那么，2016容院加盟什么牌子好，小编在此为大家推荐百莲凯美容院，百莲凯美容院成立于2001年，是美容连锁经营的先驱，百莲凯拥有独立的科研、生产及人才培训基...。
520的浪漫是玫瑰和咖啡缺一不可，近日，万咖啡，WanVita，推出新品咖啡——粉红拿铁，助力520爱的表达，萃取棚晒阿拉比卡咖啡豆，加入新鲜牛奶和超级食物甜菜根粉，制成爱意满满的红粉拿铁，颜值和风味俱佳，一杯红丝绒质感的粉红拿铁，用粉红的色彩唤醒人们内心深处的天真烂漫，万咖啡招牌饮品粉红拿铁，2020年，万达酒店及度假村在宁波万达美...。
水果捞是一种制作简单、原材料易得的甜品，尽管价格不菲，却因其健康美味而受到消费者的喜爱，水果捞主要由各种新鲜水果、酸奶、冰沙、冰淇淋和干果仁等组合而成，尤其在夏季备受欢迎，常见的水果有西瓜、芒果、桃子、草莓、奇异果、哈密瓜、圣女果、火龙果等，制作方法简单快捷，即切即食，既新鲜又解暑，那么，现在开一家水果捞店前景如何?水果捞店因其健康美...。
餐饮行业一直都是很不错的行业，会因为一个网红或者一个网站，带动了一个品牌的发展，美食一直都是离不开消费者生活的，经过网络时代的传播，会有很多人知道这种品牌，就像鲜贝恋贝壳粉品牌，网络时代给这个项目带来了很多的销售额，现在成为了一种网红项目，有些智慧之选商关注了这个项目，在消费者的眼中的爆品，鲜贝恋贝壳粉加盟费多少，鲜贝恋贝壳粉的由来就...。
马上就到十一国庆了，假期里想好怎么穿搭了吗，在这个秋意浓浓的日子里，姑娘们也是时候为自己准备几件内搭单品了，那么女生秋季内搭怎么穿好看呢，今天丹比奴女装为大家献上时尚的五款内搭单品，怎么穿都不会出错哦！秋季内搭单品1，针织衫寒冷的秋季入手一件针织衫是必须的，作为经典色调的白色是内搭受欢迎的色彩之一，一款修身版型的高领针织衫，简约大气的...。
孩子的教育问题始终都是社会热门话题，在双减政策的加持下，推动素质教育行业的快速发展，AI技术得到很多家长的认可，为孩子们带去更好素质教育，北四网校AI智领学习平板历经二十多年发展，创意运营模式，先进教学理念，使其成为教育领域中的实力品牌，那么北四网校AI智领学习平板好加盟吗，售后服务如何，北四网校AI智领学习平板从品牌创建到现在已经有...。
赤木晴子大神级投影控发表于2023，11，30自制全息投影的尺寸可以根据你的需要而定，但请注意，这是一个需要技术知识和精度的复杂任务，基本的步骤包括，准备投影介质，创建并控制光场，以及构建全息投影的硬件设备，你可以选择一些小尺寸的介质，如扑克牌、卡纸或硬纸板，来开始你的实验，随着技术的进步，现在甚至有一些全息投影机可以选择，它们可以直...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
要在手机上装置旧版本的QQ，你可以经过第三方运行商店或官网网站下载所需的APK文件，并经常使用文件治理器启动装置，1.选用适合的版本，首先，你须要确定你想要装置的旧版本QQ的详细版本号，可以在网上搜查，旧版本QQ下载，或，QQ历史版本，等关键词，找到牢靠的第三方网站或运行商店提供旧版本QQ的下载链接，2.下载APK文件，从选定的起源下...。
保险费用的计算公式如下，1、车辆损失险保费=基本保险费，本险种保险金额×费率；2、第三者责任险保费=固定挡次抵偿限额对应的固定保险费；3、全车盗抢险保费=车辆实践价值×费率；4、新参与设施损失险保费=本险种保险金额×费率；5、玻璃独自破碎险保费=新车置办价×费率；6、自燃损失险保费=本险种保险金额×费率；7、车上责任险保费=本险种抵偿...。
利星国际广场廉价是由于小区规模不大，停车位无余，绿化没有实现，紧挨高速公路，小区周边会比拟吵，利星国际广场位于上海市长宁区延安西路1319号，由上海利国有限公司开发，于2007年实现，利星国际广场融合于利星商务广场中，具备香港生存的小巧与国际4.5万多平方米住宅、商场、办公楼，生存在都市中，角色智能交替着，赫然构成了一个小型市区，利星...。
