为AI颠覆GPU！计算机史上迎来第三个革命性架构IPU
被誉为英国半导体之父，也是Arm联合创始人的Hermann Hauser曾经这样说：“在计算机历史上只发生过三次革命，第一次是70年代的CPU，第二次是90年代的GPU，而graphcore就是第三次革命。” 他所指的正是Graphcore率先提出的就是为AI计算而生的IPU（Intelligence Processing Unit）。
内存墙是阻碍AI芯片性能提升的关键，因此计算架构的创新变得更加重要，不过这其中大部分的架构创新都是在已有的架构基础上。 Graphcore联合创始人兼CEO Nigel Toon在ASPENCORE主办的2019 CEO峰会期间接受雷锋网采访时表示，Graphcore开创了全新的处理器类型IPU，IPU是专为机器智能设计的处理器，能够满足人们对高效易于使用的处理器的需求。
左：Graphcore销售副总裁/中国区总经理卢涛，右：Graphcore联合创始人兼CEO Nigel Toon
左右逢源的英国AI独角兽
Graphcore在风险资本的支持下于2016年在英国成立，成立三年时间，就获得了3.25亿美元的融资，去年估值就达到了17亿美元，其中的投资者既有像红杉资本这样的金融投资者，也有像戴尔、三星、微软等的战略投资者。
除了资本的认可，Graphcore还获得了多位AI领域的知名学术投资人为其背书，比如DeepMind 的联合创始人 Demis Hassabis、剑桥大学的 Zoubin Ghahramani 和 Uber 的首席科学家、加州大学伯克利的 Pieter Abbeel 以及 OpenAI 的 Greg Brockman、Scott Grey 和 Ilya Sutskever等。
被称为AI教父Geoff Hinton就曾说，“我认为我们需要转向不同类型的计算机。幸运的是，我这里有一个。”Hinton伸手进入他的钱包，拿出一个又大又亮的硅片，这个硅片就是Graphcore的IPU。
创立这家获得学界和资本都认可的两位创始人是Nigel Toon和Simon Knowles，Graohcore也是他们的第二次创业。 2002年，Toon和Knowles（现任Graphcore CTO）在英国Bristol共同创办了Icera，致力于打造3G modem芯片，2011年被英伟达以3.7亿美元的价格收购。
在Icera被收购之后不久，Nigel Toon和Simon Knowles就在思考再次进行创业，基于两位创始人的经验以及对未来的判断，在2016年创立了了Graphcore。如今，Graphcore在伦敦、剑桥、台湾、北京、Palo Alto、Oslo都设有办公室，员工人数将在今年底达到400人，IPU也已经于去年底推出。
那么，IPU为何能受到如此多的关注和期待？
Nigel认为，AI有三类芯片，第一类是简单的小型化加速器，用于手机、传感器等；第二类是ASIC，比如谷歌的TPU；第三类是可编程处理器，目前市场上只有GPU，Graphcore的IPU属于这个分类，但又有所不同，因为 IPU是一个非常灵活的处理器，从零开始，是专门针对AI设计的处理器架构，在未来很多新的AI应用中，IPU也会表现的更好。
之所以要推出IPU，是因为Nigel看到，如果只是针对基本的前馈卷积神经网络，GPU是一个非常好的解决方案，但随着网络变得越来越复杂，人们需要一个新的解决方案，ASIC和FPGA的采用就已经证明了GPU的弱点。
“我们接触过的所有创新者都说使用GPU正在阻碍他们创新。如果仔细看一下他们正在研究的模型类型，你会发现他们主要研究卷积神经网络，递归神经网络和其他类型的结构，例如强化学习，并不能很好地映射到GPU。这也正是我们将IPU推向市场的主要原因。”
Nigel指出，IPU是我们开创的一个全新的处理器类型，专为AI设计，IPU强大的并行处理能力实现了快速训练模型并进行实时操控。 其实现在有一些国外公司也在说他们的产品叫IPU，但我们首创的这个叫法，而且技术产品跟我们相比还差很多。
那IPU架构到底独特在哪里？Graphcore销售副总裁/中国区总经理卢涛对雷锋网表示 ， Graphcore的IPU里面有1216个核，我们称之为Tile，每个Tile里都有计算单元和内存。 由于同时有上千个处理器工作，所以单个IPU的存储带宽能达到45TB，比性能最快的HBM提升了50倍以上，在相同算力下，功耗也降低了一半。
根据Graphcore的说法，ipu处理器是迄今为止最复杂的处理器芯片，基于16纳米的工艺集成了240亿个晶体管，每个芯片提供125 teraFLOPS运算能力。 借助IPU，一个完整的机器学习模型可以在处理器内部处理。而且IPU处理器具有数百兆字节的RAM，可在处理器上以1.6 GHz的速率全速运行。
但是， 提高带宽的同时，如何解决数据的通信以及提升数据的使用效率就是非常关键的问题，也是关键挑战。 卢涛表示， IPU内部里有一个叫all-to-all总线，这个互联总线，可以高速实现任意一个核到另外一个核的直接访问。涉及到跨多个芯片的时，通过IPU-Link就可以把多个IPU联结在一起，组成一个集群。当然，all-to-all总线中间的BSP（Bulk Synchronous Parallel）协议，不仅用于同一个芯片的不同核之间，而且跨芯片的核之间也可以通过该协议透过 IPU-Link 总线进行通信。
IPU-Link最多可以支持128个芯片的互联，如果要进行更大规模的训练，可以通过以太网或者Infiniband进行互联，另外针对超大规模AI 训练应用，Graphcore还开发了专门的IPU-POD。IPU-POD 是由 IPU-machine 组成的 POD，每个 IPU-machine 上集成的IPU-Gateway芯片里有一个叫做IPUoF的技术，能够把几千甚至几万颗的 IPU 处理器连在一起。
解决了数据通信的问题，还有数据的效率问题。IPU没有采用传统处理器架构中保证多个处理器数据一致性的Cache协议，而是通过BSP配合Poplar软件栈的方式来提升效率 。Nigel Toon表示，很多人都部署了BSP，但只是用在主机之间，也就是大规模的并行机制，我们在芯片上实现了BSP，同时配合Poplar的软件栈工具/编译器，它会把算法模型、数据处理之后，映射或者分配到处理器的不同位置，并定义好交换和同步的时间等，不仅更易于使用，而且具有足够的灵活性。
这样即使对于算法公司而言，虽然处理器有1000多个核，7000多个线程，但是不需要太担心通信的问题，能够让算法工程师非常方便地用。
Nigel Toon总结表示， IPU与其它的AI芯片相比，有三个比较核心的区别：
第一，处理器核的架构不同，IPU是MIMD的架构。
第二，IPU的模型在处理器内。
第三，大规模并行，IPU核之间的通信效率也非常高，这非常难，Graphcore进行了大量的创新。
相同的IPU硬件就可用于推理和训练
对于芯片公司而言，设计出独特的芯片并不是最难的，更难的是获得客户的认可和采用。 Nigel Toon表示，未来几年Graphcore都会专注在算力比较密集的场景，而不会做终端的应用。 IPU也更能够适应未来整个行业的变化非常快，模型的大小每3.5个月就会增长一倍。并且，模型参数增加一倍，但最后还是要拆成不同的尺寸，算力需求的增长将不止两倍，所以未来的算力需求将会呈现指数型的增长。
卢涛补充表示，现在AI做的主要是图片的目标识别，自然语言处理对算力的要求更高，未来视频的分析需要更高的算力，如何把AI应用到AR、VR都对算力提出了巨大的要求。
需要指出的是，使用相同的IPU就能进行AI训练和推理。在大家普遍的认知中，推理和训练对于算力有着巨大的需求，不 过Nigel Toon认为，训练和推理技术上本质上没有很大区别，先通过数据训练出模型，部署的时候实际上是通过推理是把模型拿出来。 在未来的应用里，部署的场景可能是推理，同时还要不停地训练和更新这个模型。
“从架构的角度，这对我们非常重要，因为随着机器学习演进，系统将能够从经验中学习。推理性能表现的关键包括低延迟、能使用小模型、小批次，以及可能会尝试导入稀疏性的训练模型；IPU可以有效地完成所有这些事情。”
据介绍， 在一个4U机箱中，16颗IPU共同合作协作进行训练，每颗IPU可以执行独立的推论任务，并由一个CPU上执行的虚拟机来控制，最终得到一个可用于训练的硬件。一旦模型被训练、布署，随着模型演进且想要从经验中学习时，就可以采用相同的硬件。
卢涛进一步指出，由于IPU架构的特性，模型部署的时候精度和训练的结果会保持一致，另外在 IPU 里面要做的计算跟要处理的处理都是在本地，以及 IPU 这种超大规模小型向量机的架构，使得IPU做稀疏化应用场景的时候，天生性能就会更好。 所以IPU既可以用于云服务器，在边缘端，IPU也非常擅长，自动驾驶就会是我们很重要的应用场景。
但还有一个关键问题， 拥有如此多核心和片内存储的IPU是否会成本高昂？Nigel Toon表示不一定，因为客户都会关注效能，如果 IPU的架构在实际应用场景实现几倍甚至几十倍的性能优势时，实际的总体拥有成本还是大幅降低。
有意思的是，在技术创新的同时，Graphcore也进行了商业模式的创新。 Nigel Toon表示，我们目前没有采用传统芯片销售的模式，我们更多的是通过合作，有两大类公司会是我们的合作伙伴，一类是服务器公司， 目前我们已经与戴尔易安信合作推出了IPU服务器，和中国的服务器厂商合作进展也很快，估计很快就会有搭载我们IPU的服务器上市。
另外一类是云服务提供商， 在新的时代，IT产品交付给最终的用户，云服务厂商非常重要。我们会和中国、美国的公司都进行合作，但具体的合作暂时还处于保密阶段。
最近，Graphcore宣布与微软的具体合作内容，并正式发布Microsoft Azure上Graphcore智能处理单元（IPU）的预览版，这是公有云领导供应商首次提供GrapchoreIPU。目前，Azure上的Graphcore IPU预览版现已开放供用户注册，专注于突破NLP界限并在机器智能方面取得新突破的开发者可获得优先访问权限。
对于中国市场，Nigel Toon表示中国是Graphcore非常重要的策略性市场，Graphcore的中国公司不仅会有销售和市场，还会注重工程技术方面的投入，会有很多定制化的开发工作，更好地与本地的社区、创新者一起用好IPU。
AI芯片要满足快速迭代的AI算法，算力的提升非常关键，但摩尔定律的放缓，让架构的创新变得更加重要，实际的情况是大部分创新都是基于已有的架构，Graphcore表示其IPU架构进行了更全面的创新，我们可看到其获得了资本和学术界的好评。当然，除了硬件架构的创新之外，软件工具链Poplar同样非常关键，这是IPU提升灵活性，降低算法开发者的应用门槛的核心，也是能比其它IPU性能更好的关键所在。
因此，AI的时代架构创新很重要，软硬件的协同更加重要。
原创文章，未经授权禁止转载。详情见 转载须知 。
LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.
新浪娱乐视频是新浪旗下的专业娱乐视频内容站点,提供最新娱乐新闻视频、近期明星娱乐新闻视频，明星访谈。新浪娱乐视频汇集海量的电影、电视剧、综艺节目。娱乐圈八卦、明星新闻、大片写真、片场探班、颁奖前线视频无所不包。
解梦大全，免费为你解梦解释梦境的含义。免费算命，免费心理咨询。免费塔罗牌知识，免费算命并预测未来的运势
4399英雄小游戏大全收录国内外英雄类小游戏、英雄救美小游戏、英雄大作战小游戏、英雄小游戏下载、最新英雄小游戏。好玩就拉朋友们一起来玩吧！
疯狂食间,专注餐饮品牌创作的一群疯子、餐饮品牌设计公司,提供茶饮品牌设计,主题餐饮设计,主题餐厅设计,餐饮品牌策划设计,画册设计等;以专属形象定制作为餐饮品牌接入点,助力中国互联网＋品牌时代,非常期待您的到来,服务热线:0755-23590995
Alexa网站流量全球综合排名查询。免费提供Alexa网站流量排名官方数据查询，中文网站排行榜，官方网站ICP备案信息查询，域名注册信息查询，网站访问量查询，网站浏览量查询，网站排名变化趋势数据每日更新。
AcFun是国内首家弹幕视频网站，这里有全网独家动漫新番，友好的弹幕氛围，有趣的UP主，好玩有科技感的虚拟偶像，年轻人都在用。
探讨建筑材料性能指标、应用规范、施工工艺、加固修补、涂装、等关键性能及方法。
慧族软件作为专业的济南管家婆进销存软件、管家婆财务软件的代理商，主营济南管家婆辉煌软件、济南管家婆财贸软件、济南管家婆工贸软件，济南慧族软件公司拥有丰富的进销存财务软件售前咨询、管家婆软件实施安装及售后服务经验，管家婆济南代理商、济南管家婆专卖店竭诚为您提供优质服务。
门窗网提供门窗十大品牌排名,国内优秀门窗品牌加盟信息的门窗行业门户网站,展示实时门窗新闻资讯,每月铝合金门窗品牌加盟排行榜,国内外防盗门窗展会,铝合金门窗价格图片,是门窗从业人员了解门窗,采购门窗,加盟门窗,获取门窗知识的专业平台.
四川博全科技有限公司
赣州大昌设备专业生产、设计冻干机,真空冷冻干燥机,对食品,果蔬,制药的真空冻干技术有着20余年临床研发经验,是国内外十大知名品牌厂家；厂家直销,价格合理,货源充足,欢迎来电咨询订购13507078327！
2019.01.09，华为将数据中心网络推入了AI时代，雷锋网1月9日消息，华为正式推出内置自家AI芯片昇腾310的数据中心交换机CloudEngine16800，也是业界首款搭载高性能AI芯片的数据中心交换机，距离华为上一款旗舰产品CloudEngine12800系列的发布已经过去了6年，CloudEngine12800在云时代大获...。
诞生于加州大学伯克利分校的RISC，V开源指令集近来在中国关注度非常高，5月，上海发布国内首个RISC，V的支持政策，9月，中国RISC，V产业联盟在上海成立，11月，中国开放指令生态，RISC，V，联盟在乌镇宣布成立，有意思的是，中国最早做RISC，V的公司选择了落户深圳，并且仅用7个月就设计出了一款基于RISC，V指令集的AI芯片...。
AI芯片在科技领域到底有多热门，如果高通、英特尔、英伟达这些传统芯片巨头都已开始制造AI芯片还不够证明其热度，那么电商巨头亚马逊、社交巨头Facbook、软件巨头微软等也都开始自主研发AI芯片不仅能说明AI芯片到底有多受关注，更能证明其重要性，相比美国的科技巨头，国内三大科技巨头BAT的脚步似乎并没有那么快，在中兴通讯事件再次引发全民...。
独家确认，AI芯片创业公司墨芯人工智能，MoffettAI，联合创始人兼首席架构师肖志斌已经离职2个月，离职后他将专注于AI大模型软件及系统层面的工作，目前暂不清楚接替肖志斌的人选，肖志斌是美国加州大学戴维斯分校电气工程博士，曾任职于德州仪器、Oracle，Sun和阿里巴巴达摩院等知名企业，担任核心架构师和研究员，主持和参与了多...。
AI时代一个值得关注的新变化是科技巨头们都纷纷开始自主研发AI芯片，一方面可能是因为科技巨头们积累了大量数据价值待挖掘，另一方面是目前的芯片算力不足且十分昂贵，美国作为传统的科技强国，FANG中的谷歌正在领跑，中国互联网巨头也大力发展AI，其中阿里的AI芯片进展最受关注，那么，BTA能否在AI芯片领域挑战FANG，中国有BAT，百度、...。
人工智能的赛道正变得越来越拥挤，竞争也正变得越来越激烈，芯片作为AI发展的重要驱动力，随着Facebook、亚马逊等科技巨头也加入造芯的行列，AI芯片战即将打响，不过，芯片的研发不可能一蹴而就，收购初创企业就成了许多巨头加速自主研发芯片的进程选择，那么，科技巨头喜欢收购或者投资什么样的AI芯片初创公司，收购AI初创公司，目标是服务生态...。
上周，平头哥以产品命名猜想为话题预告本周将发布重磅新品，2019年杭州云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋发布了阿里的首款AI芯片含光800，该芯片是一款云端AI芯片，也是全球最高性能的AI推理芯片，含光800主要应用于视觉场景，已经在阿里巴巴集团内多个场景大规模应用，其它企业可以通过阿里云获得含光NPU的算力，阿...。
雷锋网消息，近两个月，关于比特大陆，Bitmain，赴港上市进展的消息接连不断，上周还有消息称比特大陆将终止IPO并准备重组，终于，9月26日比特大陆在香港联交所官方网站上载A1招股文件，这标志着比特大陆正式启动了香港联交所主板上市计划，比特大陆赴港上市之所以备受关注除了因为其是全球第一大加密货币矿机公司，另一个重要原因是这有望成为今...。
雷锋网消息，在不久前的WRC2018世界机器人大会上，NVIDIA展出了专为机器人设计的芯片JetsonXavier，同时，NVIDIA高级软件经理李铭博士也向雷锋网等媒体详细介绍了这款芯片的特点，阐述了JetsonXavier如何推动机器人软硬件技术的发展，JetsonXavier于今年6月初在2018年台北国际电脑展，COMPUT...。
为什么选择从三星加入Rokid，这个团队给我很亲近的感觉，风格上与三星相近，行业趋势上是必然的，Misa嘛，邋里邋遢的，停顿了一秒，周军赶紧摆摆手说，，不是，不能说邋遢，还是很精致的，就是那种极客范儿，五月初微雨的杭州，雷锋网与刚刚从三星半导体，中国，加入杭州人工智能公司Rokid、担任VP的周军博士，进行了一番长谈，前三星...。
雷锋网消息，2020年5月7日，专注人工智能领域云端算力平台的燧原科技今日宣布完成B轮融资7亿元人民币，由半导体产业基金武岳峰资本领投，腾讯、上海双创、海松资本，万物资本、达泰资本、红点创投中国基金跟投，顺序不分先后，本轮资金将用于产品量产和业务规模化，技术支持团队扩充，高端专家人才引进，以及继续投入第二代云端训练及推断产品的开发，...。
芯片的算力作为推动AI发展的关键因素之一，在第三波AI浪潮下，无论是老牌芯片企业、科技巨头还是初创企业都纷纷加入了AI芯片的争夺战，不过，云端AI芯片老牌芯片巨头占有明显优势，终端侧的不同应用对芯片需求不同且巨头还未占据优势，因此终端侧AI应用成了众多AI芯片初创公司进入AI市场的入口，但为什么中国的12家AI芯片创业公司有10家都布...。
在特斯拉的联合创始人兼CEOElonMusk放出人工智能恶魔论之后，今天又开始放话了，在未来，人类开车的，权力，被剥夺，而机器人将会取代人类，控制驾驶汽车，因为机器人比人类更加胜任驾驶工作，从统计学的角度来说，人类驾驶只会成为道路安全的不利因素，将来，特斯拉可是要做无人驾驶，也难怪这么说话~，在年度开发者大会上，Musk对NVIDI...。
欢迎收看今天的搞机推荐，给大家通报一下，最近有哪些价格出位的机器，PS，为方便比对，还是惯例，统一使用京东价格，PDD、深水宝、海鲜市场会更便宜，但那些各凭本事了，PSS，在京东，要用，机型名，百亿补贴，搜索，出来的才是百亿补贴的产品，入门机小屏爱好者影像爱好者平板、电脑与配件关注我们的微博@爱搞机关注我们的微信公众号，爱搞机，pla...。
发表在极米投影仪2024，8，1214，09极米Z7X高亮版是极米Z7X的升级版本，价格接近三千，那么和三千价位的当贝D6X之间有什么区别呢，下面就通过全方面的参数配置进行对比分析，看看极米Z7X高亮版和当贝D6X区别有哪些，哪款更适合用户入手，一、极米Z7X高亮版和当贝D6X区别有哪些1.光学参数对比光源方面，当贝D6X采用万元级三...。
没有人工客服，国家医保服务平台，联系客服可以直接打国家医保局的联系电话，有一个统一的劳动保障咨询电话，你可以通过这个电话查询和劳动保障相关的各种政策问题，办事指南等，医保服务平台的作用但是如果想要查询本人的医疗保险明细，建议你到各城市的劳动和社会保障局信息网上输入身份证和社保号注册后，即可查询明细，社保中心查询，如可以携带身份证到各区...。
据相关数据显示，我国有4.1亿的超重人口，其中20%为女性，随着人们生活水平的不断提高，我国的肥胖人口还会以每年15%的速度增长，不少的肥胖人群为自己的身材而苦恼，都想要寻找健康、绿色、的有助于调节体脂方法，这也为有助于调节体脂有助于调节体脂行业带来了无限的商机，那么，有助于调节体脂产品代理加盟怎么样，有助于调节体脂有助于调节体脂加盟...。
