IPU改变 阿里 云端AI芯片的格局可能被微软 (api改ip)
英伟达在云端AI训练芯片市场超九成的市占率让新入局的竞争者们都将枪口指向这家当红AI公司。声称AI性能比英伟达GPU的新产品不少，但真正突破英伟达护城河的现在仍未看到。
相比在硬件性能上超越英伟达，软件生态的赶超难度显然更大。不过，微软亚洲研究院的NNFusion项目以及阿里云的HALO开源项目，正努力降低从GPU迁移到新的硬件平台的难度和成本，再加上在多个重要AI模型上性能超英伟达最新A100 GPU的IPU，云端AI芯片市场的格局未来几年可能会发生变化。
微软、阿里云开源项目降低迁移出GPU的难度
目前AI的落地，仍以互联网和云计算为主。因此，科技巨头们很快发现迁移到新平台不能只看峰值算力。 Graphcore高级副总裁兼中国区总经理卢涛表示：“客户考虑为一个新的软硬件平台买单时，首先考虑的是能够获得多少收益。其次考虑的是需要多少成本，这涉及软硬件的迁移成本。”
对于科技巨头们而言，GPU确实是一个好选择，但考虑到成本、功耗以及自身业务的特点，仍然有自研或者迁移到其它高性能芯片的动力。此时，软件成为能否快速、低成本迁移的关键。
将已有的AI模型迁移到新的AI加速器时，现在普遍的做法是在TensorFlow写一些后端集成新硬件，这给社区和AI芯片公司都带来了负担，也增加了迁移的难度和成本。
微软亚洲研究院的NNFusion以及阿里云的HALO开源项目，都是希望从AI编译的角度，避免重复性的工作，让用户能够在GPU和其它AI加速器之间尽量平滑迁移，特别是GPU和IPU之间的迁移。
也就是说，NNFusion和HALO向上跨AI框架，既可以集成TensorFlow生成的模型，也可以集成PyTorch或其他框架生成的模型。向下用户只要通过NNFusion或者HALO的接口就可以在不同的AI芯片上做训练或者推理。
这种调度框架在降低迁移难度和成本的同时，还能提升性能。 根据2020 OSDI（计算机学界最顶级学术会议之一）发布的研究结果，研究者在英伟达和amd的GPU，还有Graphcore IPU上做了各种测试后得出结果，在IPU上LSTM的训练模型得到了3倍的提升。
当然，这样的收益还是需要开源社区与硬件提供方的紧密合作，比如Graphcore与微软亚洲研究院以及阿里云的合作。
“我们与阿里云HALO和微软NNFusion紧密合作，这两个项目支持的最主要的平台是GPU和IPU。”卢涛表示，“目前在阿里云HALO的GitHub里已经有IPU的完整支持代码odla_PopArt，下载开源代码就已经可以在IPU上使用。”
能够便捷地使用IPU也离不开主流机器学习框架的支持。Graphcore本月最新发布了面向IPU的PyTorch产品级版本与Poplar SDK 1.4。PyTorch是AI研究者社区炙手可热的机器学习框架，与TensorFlow两分天下。
PyTorch支持IPU引起了机器学习大神Yann LeCun的关注。之所以引发广泛关注，是因为这个支持对于IPU的广泛应用有着积极意义。
Graphcore中国工程总负责人，AI算法科学家金琛介绍，“在PyTorch的代码里，我们引入了一个叫PopTorch的轻量级接口。通过这个接口，用户可以基于他们当前的PyTorch的模型做轻量级封装，之后就可以无缝的在IPU和cpu上运行这个模型。”
这也能更好地与HALO和NNFusion开源社区合作。 金琛告诉雷锋网，“不同的框架会有不同中间表示格式，也就是IR（Intermediate Representation）。我们希望将不同的IR格式转换到我们通用的PopART计算图上，这也是兼容性中最关键的一点。”
据悉，IPU对TensorFlow的支持，是像TPU一样，通过TensorFlow XLA backend接入到TensorFlow的框架，相当于把一个TensorFlow计算图转换成为一个XLA的计算图，然后再通过接入XLA的计算图下沉到PopART的计算图，通过编译，就可以生成可以在IPU上执行的二进制文件。
金琛认为，“各个层级图的转换是一个非常关键的因素，也需要一些定制化工作，因为里面的一些通用算子也是基于IPU进行开发的，这是我们比较特殊的工作。”
除了需要增加对不同AI框架以及AI框架里自定义算子的支持，增强对模型的覆盖度的支持，也能够降低迁移成本。
金琛介绍，对于训练模型的迁移，如果是迁移一个不太复杂的模型，一般一个开发者一周就可以完成，比较复杂的模型则需要两周时间。如果是迁移推理模型，一般只需要1-2天就可以完成。
IPU正面挑战GPU，云端芯片市场或改变
AI时代，软硬件一体化的重要性更加突显。 卢涛说：“AI处理器公司大致可以分为三类，一类公司是正在讲PPT的公司，一类公司是有了芯片的公司，一类公司是真正接近或者是有了软件的公司。”
已经在软件方面有进展的Graphcore，硬件的表现能否也让用户有足够的切换动力？本月，Graphcore发布了基于MK2 IPU的IPU-M2000的多个模型的训练Benchmark，包括典型的CV模型ResNet、基于分组卷积的ResNeXt、EfficientNet、语音模型、BERT-Large等自然语言处理模型，MCMC等传统机器学习模型。
其中有一些比较大的提升，比如与A100 GPU相比，IPU-M2000的ResNet50的吞吐量大概能实现2.6倍的性能提升，ResNeXt101的吞吐量提升了3.6倍，EfficientNet的吞吐量达到了18倍，Deep Voice 3达到了13倍。
值得一提的还有IPU-POD64训练BERT-Large的时间比1台DGX-A100快5.3倍，比3台DGX-A100快1.8倍。1个IPU-POD64和3个DGX-A100的功率和价格基本相同。
强调IPU训练BERT-Large的成绩不仅因为这是英伟达GPU和谷歌TPU之后第三个发布能够训练这一模型的AI芯片，还因为BERT-Large模型对现在芯片落地的意义。
卢涛说：“在今天，BERT-Large模型不管是对于工业界，还是对研究界都是一个比较好的基准，它在未来至少一年内是一个上线的模型水准。”
不过，这一成绩目前并非MLPerf发布的结果，正式结果需要等待Graphcore在明年上半年正式参与MLPerf性能测试。近期，Graphcore宣布加入MLPerf管理机构MLCommons。
“我觉得我们加入MLCommons和提交MLPerf表明，IPU即将在GPU的核心领域里面和GPU正面PK，表明了IPU除了能做GPU不能做的事情，在GPU最擅长的领域，IPU也能以更好TCO实现相等，甚至更优的表现。”卢涛表示。
微软亚洲研究院、阿里云、Graphcore都在共同推动GPU转向IPU，什么时候会迎来破局时刻？
不是GPU的IPU，为什么更值得英伟达警惕？
直击CPU、GPU弱项！第三类AI处理器IPU正在崛起
原创文章，未经授权禁止转载。详情见 转载须知 。
站长之家API数据接口免费向开发者提供网站排行榜查询的相关数据查询。
新浪VIP邮箱，新浪邮箱团队倾力打造的高端个人商务邮箱！提供高达68G的邮箱容量，独立服务器收发更顺畅，拥有手机邮，短信提醒等强大商务功能，支持500封群发，4G超大附件，10G超大网盘，垃圾病毒拦截率可达99.5%，高端商务人士邮箱服务首选。
4399新不良人安卓游戏为您提供新不良人游戏下载,新不良人安卓游戏攻略,新不良人安卓免费游戏,更多新不良人手机游戏下载尽在4399手机游戏。
广东比实希科技有限公司是一家以条码设备制造、条码软件研发为核心的高新技术企业。企业立足于自动化、自动识别领域，以先进的自动化、条码、RFID、技术为核心，坚持走自主研发，品牌化的发展道路，企业拥有十几年的条码设备、条码软件研发、生产、销售、服务经验，并打造了“bsc”标签回卷器、标签剥离机、手持贴标机、条码打印机、条码扫描器系列产品，成为了自动化、自动识别技术应用领域领先的、专业的条码设备、条码软件研发生产制造厂商。
常州盈瑞高分子材料科技有限公司
蜂目云管理平台系统专注安防云,安防监控,监控直播,人脸识别,AI分析盒,边缘计算盒子,监控摄像头,ai安全预警系统软件研发,支持主流厂商大规模,分布式,高并发视频接入,实现摄像头监控升级,监控直播,人脸识别系统,AI识别算法,iot视频监控系统,安防云存储,告警推送,智能分析,边缘计算,IoT等开放服务。
合肥铂克环境设备有限公司，10年专注制造转轮除湿机、恒温恒湿机、恒温恒湿空调、酒窖空调、精密空调、净化空调、工业除湿机、超声波加湿器、恒湿机等空调设备，是专业的生产厂家
恒温恒湿空调机厂家专业供应实验室恒温恒湿空调机、机房、基站恒温恒湿精密空调机，专业定制酒窖恒温恒湿机、文博展柜恒温恒湿机；我司生产的恒温恒湿机服务于各大企业、院校、研究所实验室；入住于运营商机房、基站！其中酒窖恒温恒湿机，展柜恒温恒湿机更是受到客户一致好评，欢迎来电咨询。
华锐净化工程（www.qhjh.com）是一家专业从事层流手术室净化装修、检验科ICU改造施工的特殊科室建设厂家。我们提供高质量的净化装修服务，为医院提供安全、卫生的工作环境。
资溪县依托国家5A级景区大觉山，天然氧吧、动植物基因库
厦门广告招牌,厦门店面招牌,海沧广告招牌,厦门LED屏,厦门拼接屏厂家,厦门灯箱制作,广告招牌,招牌灯箱,门头招牌,招牌制作,门头制作,背景墙,形象墙,文化墙,宣传栏,工地工程围挡,围挡制作,喷绘印刷,UV雕刻,珩架拱门,会展,舞台音响,厦门盛世广告,厦门广告,厦门广告公司,招牌灯箱制作,厦门门头制作,厦门背景墙,海沧店面招牌,海沧门头招牌,海沧招牌灯箱,海沧灯箱制作,海沧背景墙,公司牌,亚克力
八字文化提供宝宝取名大全查询、免费名字打分，专业免费的取名字让您为孩子起一个好听而且高分的名字；本站通过国学文化、八字五行、周易卦象、三才五格、汉字寓意解释与科学大数据结合给您更多名字选择。
2020年的突发事件，令很多人对于自己的财富有了新的思考，尤其是创业者，更多的将眼光放到了互联网项目，这其中有个项目尤其被看好，它就是手游代理项目，为什么在众多互联网创业项目中，大家更看好手游代理项目呢，游戏市场前景不必多说，喜欢玩游戏，或者对游戏有些了解的朋友一定知道，目前国内市场3000亿，且近5年来持续增长中，游戏付费用户也逐渐...。
想要准确预测一个新技术未来的发展很难，但把握基本规律，合理的规划和积极的行动能促使新技术发展地更好，开源的RISC，V正是如此，上个月，RISC，V基金会确认总部从美国迁到瑞士，更为国际化的RISC，V，未来5年会发展到什么程度，2017年图灵奖得主，美国科学院、工程院、艺术与科学学院三院院士，伯克利加州大学电子工程与计算机科学学院P...。
蛋糕是一种古老的西点，一般是由烤箱制作的，蛋糕是用鸡蛋、白糖、小麦粉为主要原料，以牛奶、果汁、奶粉、香粉、色拉油、水，起酥油、泡打粉为辅料，经过搅拌、调制、烘烤后制成一种像海绵的点心，蛋糕是一种面食，通常是甜的，典型的蛋糕是以烤的方式制作出来，蛋糕的材料主要包括了面粉、甜味剂，通常是蔗糖，、黏合剂，一般是鸡蛋，素食主义者可用面筋和淀粉...。
CV在前，NLP在后，迁移学习技术的应用为这两个领域所带来的进展和突破，不可谓不瞩目，其中，预训练模型作为当下迁移学习的一种主流方法，让，从零开始训练一个新模型，的时代一去不复返，这类在大型数据集上训练好的模型进行微调后，便能够较好地适配类似的新目标任务，可以极大地节约时间和成本，不过，天下没有免费的午餐，这种方法看似，一劳永逸，，也...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
7月15日，北京大兴机场警方通报一同，外籍女子躲客机厕所吸电子烟引发机组恐慌，关系案例，目前，该女子已被处分，据引见，2024年6月14日早晨，一架由舟山飞往北京大兴的航班正在万米空中朝着既定方向颠簸航行，突然烟雾报警器响起，机组人员为了不惹起旅客恐慌，立刻依照处理预案头头是道展开排查上班，经排查发现，一名外籍旅客正在客舱后部卫生间内...。
其实天蝎女并不难追，但不是说有人都能追，追她的人要合乎以下条件，1，长相不能太道歉，少数天蝎女是外貌协会的会员，2，要有必定的心思接受才干，天蝎的言词都比拟间接，心思接受才干不强的人很容易被刺伤.，追天蝎女的方法，1.尽量少与同性独自相处，天蝎女会吃醋的，2，多制作些偶合，让她尽或者多的见到你，3，不断买些小礼物送给她，多制作些浪漫4...。
1、丰田小型suv有丰田CHR和奕泽IZOA在2018年，丰田在中国推出了自己的第一款小型SUV丰田CHR，丰田把自己的TNGA架构就拿到了这款车上，可以说是十分的用心一汽丰田的奕泽IZOA与广汽丰田的CHR有着高度相似的外观，这两款，2、1丰田RAV4荣放丰田RAV4荣放是一款颜值十分高的车型，首先它定位是紧凑型suv，多少钱上也算...。
如今比拟干流的阅读器像ucqq海豚都是允许flash播放的，只是播放flash要看的是你的手机支不允许flash播放，系统是2.2以上就行，重要看你的手机配件允许不，flash阅读器下载普通的阅读器都允许flash插件的，有它就可以看flash了，假设没有，可以去360软件管家中下载装置下就OK谁给找个允许FLASH的阅读器Skyfi...。
WolframSystemModeler是一款系统模型仿真软件，支持所有FMI标准的导入和导出，让您集成模型并与其他一百多种工具共同模拟。可以自定义外观。
重庆分类目录网站收录美图片相关的优秀网站大全分类检索，为上网用户提供美图片网站排行榜与您分享、收藏！
360极速浏览器,360极速浏览器基于Chromium开源浏览器，在原版的基础上添加了更多适合国人的功能，如鼠标手势，超级拖拽，360极速浏览器无缝融合的双核引擎，带给你极速的浏览体验,您可以免费下载。
独家确认，AI芯片创业公司墨芯人工智能，MoffettAI，联合创始人兼首席架构师肖志斌已经离职2个月，离职后他将专注于AI大模型软件及系统层面的工作，目前暂不清楚接替肖志斌的人选，肖志斌是美国加州大学戴维斯分校电气工程博士，曾任职于德州仪器、Oracle，Sun和阿里巴巴达摩院等知名企业，担任核心架构师和研究员，主持和参与了多...。
曹德旺谈许家印危机，39亿资本贷款两万亿，这就是中国式的金融12月12日，在第九届中国企业家发展年会上，福耀玻璃集团董事长曹德旺谈到，许家印总共39亿的自身资本，贷款可以做到两万亿，这就是中国式的金融，最成功的做法应该坚持敬天爱人的祖训，一步一步地来，你想挖别人的心，应该担心自己的心会不会被人挖走，有消息显示，恒大集团总体负债超过1....。
5月24日，人工智能科技公司出门问问在2018战略新品发布会上发布五款产品，具体包括出门问问智能手表旗舰系列TicWatchPro、小问音箱儿童版TicKasaFox、小问音箱时尚版TicKasaNano、小问智能单耳耳机TicPodSolo，同时，面对企业级市场，出门问问发布AI语音芯片模组，问芯，，并宣称是中国首款已量产的AI语音...。
炸鸡是市场中颇受欢迎的一种美食，不管是学生党，还是上班族，又或是的别的消费群体，对鸡排都百吃不厌，炸鸡具有健康美味、营养丰富、好吃不贵的特点，在市场中聚集有颇高的人气，各大城市的街头巷尾都可以看到许多大大小小的炸鸡店，炸鸡店投入的资金不高，受众的群体广，全年均可经营，吸引不少创业者加入其中，在加入之前，需要先了解炸鸡行业如何，今年还能...。
经常使用高德地图导航的步骤如下，1、关上高德地图APP，并确保手机的GPS定位服务已开启，授权高德地图失掉位置的运行权限，2、在首页的搜查框中输入想要抵达的目的地称号或主要词，点击搜查，在搜查结果中找到指标地点，点击目的地右方的，路途，3、地图会智能介绍多种路途，点击路途上面可以选用交通工具，4、选好出行路途和交通工具后，点击，开局...。
