阿里首款AI芯片含光800重磅发布 全球最强AI推理芯片如何练成 (阿里ais)

上周,平头哥以产品命名猜想为话题预告本周将发布重磅新品。2019年杭州云栖大会上,阿里巴巴集团首席技术官阿里云智能总裁张建锋发布了阿里的首款AI芯片含光800,该芯片是一款云端AI芯片,也是全球最高性能的AI推理芯片。含光800主要应用于视觉场景,已经在阿里巴巴集团内多个场景大规模应用,其它企业可以通过阿里云获得含光NPU的算力。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

阿里巴巴集团首席技术官兼阿里云智能总裁张建锋

据悉,含光为上古三大神剑之一,该剑含而不露,光而不耀,正如含光800带来的无形却强劲的算力。

根据张建锋的说法,在业界标准的Resnet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

含光800不仅Resnet50的成绩打破记录,从设计到商用的速度也很快。张建锋表示,平头哥用大概一年半的时间实现了含光800从设计到商用。雷锋网了解到,平头哥用7个月完成了前端设计,之后用3个月就成功流片。 仅成立一年的平头哥半导体为何这么快就能设计出云端AI芯片?

要知道,芯片作为典型的长周期产品,想加速芯片的商用,在硬件和软件方面都需要有很强的实力,特别是在AI时代,软硬一体化的重要性更加突显。 平头哥就得益于阿里在软硬件方面的积累, 算法方面, 阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系,涵盖语音智能、语言技术、机器视觉、决策智能等方向,并且取得多个世界领先水平的成果; 硬件方面, 阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效都推向极致。

其中,性能的提升必须解决内存墙问题。所谓的内存墙,是指采用采用冯诺依曼结构的处理器,存储和运算处理分离,当进行深度神经网络处理时,算力得到了提升,但大量读写运行操作会受到带宽限制,芯片的整体性能提升也同时受到限制。

平头哥的做法是通过自研架构大幅减少对内存的访问,在保证性能的情况下,把芯片功耗降到最低水平。具体而言,含光800会根据神经网络推理运算特征,设计特定的硬件、高速连接的存储结构以及专用指令集,对内存和计算单元实现高效组织管理,实现单条指令完成多个操作,提高计算效率和内存访问效率。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

3个月发3款芯片新品,阿里“硬”了

阿里首款AI芯片发布之后,其从云端到终端的产品布局已经十分明确。 这些产品也都密集在最近几个月发布, 今年7月的阿里云上海峰会上,阿里巴巴集团副总裁戚肖宁发布了高性能RISC-V架构处理器玄铁910。 玄铁910集成16个核心,主频2.5GHz,采用12级乱序流水线,最大支持8MB二级缓存,搭载AI增强的向量计算引擎,可用在人工智能加速器、网络通信和自动驾驶等领域。现场公布的数据显示,玄铁910较业界主流芯片性能提高40%,较标准指令性能高出20%。

8月,平头哥又发布SoC芯片平台“无剑”, 无剑平台由SoC架构、处理器、各类IP、操作系统、软件驱动和开发工具等模块构成,面向AIoT提供的集芯片架构、基础软件、算法与开发工具于一体的整体解决方案。根据官方的说法,无剑能够帮助芯片设计企业将设计成本降低50%,设计周期压缩50%。

需要指出,7月发布的玄铁910是基础单元处理器IP,无剑是芯片设计平台,所以含光800是阿里的首款AI芯片。这也意味着,阿里的C-Sky系列、玄铁系列AIoT终端芯片IP,一站式芯片设计平台无剑,以及最新发布的云端AI芯片构建了阿里端云一体的芯片生态,平头哥端云一体全栈芯片产品家族雏形已现。

更值得关注的是,端侧的7款C-Sky系列嵌入式CPU IP核已得到大规模量产验证,授权客户超100家,累计销售超十亿颗,应用于机器视觉、工业控制、车载终端、移动通信和信息安全等领域。

RISC-V架构的玄铁处理器以及无剑SoC平台也已有客户,包括人工智能企业云天励飞、老牌芯片公司炬芯科技等。

含光800也已经实现了大规模应用,应用于阿里巴巴集团内多个场景,例如视频图像识别/分类/搜索、城市大脑等,未来还可应用于医疗影像、自动驾驶等领域。同时,阿里云作为全球前三的云服务提供商,含光的能力将通过云服务对外提供。张建锋现场宣布,基于含光800的AI云服务也正式上线。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

另外,在生态建设方面,平头哥还将成立芯片开放社区。

不仅如此,平头哥还在研发用于阿里云神龙服务器的SoC专用芯片。 未来,阿里还将进一步完善产品形态,推出包括云端AI训练芯片和终端AI推理芯片,满足更多场景的算力需。

自研AI芯片的终极目的是什么?

阿里从云端到终端AI芯片的布局已经明确,并且也已经有不少客户,这是否意味未来阿里不仅不需要购买芯片,还可能替代其它芯片公司?答案是否定的。在这一轮的AI浪潮中,我们看到无论是国外的谷歌、Amazon、Facebook还是国内的阿里,这些强于软件的科技巨头们都在积极研发AI芯片。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

至于其中的原因,Cadence首席执行官、华登国际创始人陈立武此前接受雷锋网采访时表示:“科技巨头积极布局AI是因为他们不希望落后,因为他们都有大量的数据。当然,科技公司开始做芯片并不意味着传统的芯片厂商会被取代,科技公司希望在一些应用上用自主研发的芯片来提升效率。”

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

事实也确实如此,就拿阿里来说,其业务横跨电商、金融、物流、云计算、大数据、全球化等场景,用户规模庞大,对算力的需求更高,挑战也更大。传统CPU、GPU和FPGA难以满足所有需求,并且面临成本和功耗挑战。定制化的ASIC芯片能够实现更高的性能同时兼具更低功耗,因此科技巨头们基于对自身业务和需求的了解,纷纷开始自主研发AI芯片,希望在保持领先性的同时,降低整体计算成本。

从全球范围看,谷歌TPU是全球科技企业从软变硬的代表。此次含光800的发布及商用,表明阿里的优势也不再只是在软件领域,在AI芯片的加持下,未来阿里的优势也将是软硬一体的优势。

为了实现这一目标,阿里几年前就开始了布局。2017年云栖大会上,阿里成立达摩院,这是阿里在全球多点设立的科研机构,立足基础科学、颠覆性技术和应用技术的研究。达摩院由全球建设的自主研究中心、高校联合实验室,全球开放研究计划三大部分组成,涵盖量子计算、机器学习、基础算法、网络安全、视觉计算、自然语言处理、下一代人机交互、芯片技术、传感器技术、嵌入式系统等,涵盖机器智能、智联网、金融科技等多个产业领域。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

平头哥得到达摩院和阿里云的软实力加持,基于达摩院的算法能力,才能打破了算法和硬件之间的鸿沟,基于阿里云飞天云平台的优势,得以快速形成了端云一体芯片生态。

如今, 阿里自主研发芯片的目标也已经部分达成。 根据云栖大会的现场展示,在城市大脑中实时处理杭州主城区交通视频,需要40颗传统GPU,延时为300ms,使用含光800仅需4颗,延时降至150ms。拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

显然,平头哥的目的并非是卖芯片,平头哥还会延续了母体阿里巴巴集团“让天下没有难做生意”的愿景,开辟了全新的商业模式,即平头哥模式(以无剑平台为核心),为企业提供普惠算力。

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

另据介绍,针对AIoT市场有强应用驱动和场景碎片化等特点,芯片公司按照传统的方式设计芯片很难去适应未来的需求,平头哥希望通过端云一体芯片生态为各行业提供普惠算力。

张建锋说:“在全球芯片领域,阿里巴巴是一个新人,玄铁和含光800是平头哥的万里长征第一步,我们还有很长的路要走。”

阿里首款AI芯片含光800重磅发布,全球最强AI推理芯片如何练成?

作为科技巨头,阿里此前更加擅长软件,并且拥有大量的数据。在正在到来的以数据为中心的时代,能够借助AI更快挖掘出数据的价值将成为科技巨头们继续保持领先优势的关键之一。因此,无论是国外还是国内,科技巨头们纷纷开始投入巨大的资源进入技术、资金、人才都非常密集的芯片产业,阿里首款AI芯片的推出,意味着阿里已经不再只擅长软件,在其广泛的应用场景需求的支撑下,阿里将能够实现硬件的快速迭代的完善,在云端和终端进一步释放出软硬结合的优势。

One more thing,关于平头哥产品的命名,你怎么看?

2019云栖大会的更多报道,请关注雷锋网的专题报道。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
360uu网页游戏平台

360uu网页游戏平台为玩家提供好玩的精品网页游戏及全新网页游戏排行榜,全新网页游戏开服表,如网页传奇灭神和传奇世界,策略游戏大皇帝,武侠游戏热血大明等。360uu平台免费赠送首充和游戏新手卡礼包等。玩游戏,就上360uu.com!

【快捷旅行网】机票代理

苏州快捷航空票务是国内领先的在线特价机票酒店预订公司之一,提供机票代理免费加盟,机票分销政策共享,国内国际打折机票预订,35000余家酒店预订,宾馆预订,酒店宾馆用户真实点评,旅游资讯,以及航班时刻表,特价打折机票查询预订,2-7折酒店超低折扣预订让您足不出户预订到经济实惠的酒店400-710-5998

油田消泡剂

盐城海纳消泡剂厂家专业于有机硅消泡剂的开发研究,提供油田专用消泡剂解决方案,主要包括有机硅消泡剂,高碳醇消泡剂以及聚醚消泡剂在各工业领域的应用,提供有机硅消泡剂的技术解决方案

西安透水砖厂家

陕西齐禾天地建材是透水砖的生产厂家,也叫渗水砖,属于绿色环保新型建材,使用寿命长;外表光滑,边角清晰,线条整齐;抗冻性能和抗盐碱性高;我公司产品有透水砖厂家、西安吸水渗水砖、植草砖厂家、PC彩砖、草坪砖、道沿石、盲道砖、渗水砖、护坡砖等。定制各种规格的PC透水砖,品种多规格全,质量高,售后无忧,其产品质量得到了用户的高度认可,工厂交通运输及其便利。

轨道运输机

轨道运输机-单轨运输机-浙江大井机械有限公司浙江大井机械公司主营:轨道运输机、单轨运输机,是浙江省一家集科研、生产、销售为一体的专门生产农业机械设备、园林机械、渔业机械、清淤机械等产品的企业。现有员工26人。自制有农用搬运机械生产流水线。主要用于单轨运输机的生产。

玻璃钢储罐

【电话:16236893888】河北福瑞隆复合材料有限公司是一家玻璃钢储罐,玻璃钢管道,玻璃钢冷却塔,玻璃钢格栅,污水池盖板,除臭箱等系列制品的专业生产厂家,质优价廉,欢迎广大客户前来商谈购买。

沂蒙黑猪

沂南县友联黑猪养殖场是临沂是新沂蒙黑猪基地,猪的肉质好、味道美、肉品纯绿色、无药残,发展沂蒙黑猪肉,想吃沂蒙黑猪肉,就到联谊养猪场。电话:0539-368677713791501777

离合器片生产厂家

贝蒂蓝特汽车零部件有限公司(手机:15533777533石经理)专业生产各种卡车专用离合器片产品,欢迎来厂参观访问洽谈合作!

炭粉成型机

郑州奥星重工机械有限公司是国内当前专业设计生产炭粉成型机、水烟碳压片机、水烟炭成型机、水烟炭全自动生产线、银条炭成型机、旋转式压片机、炭棒成型机、烧烤碳成型机、炭粉压片机、活性炭生产设备、撕碎机的厂家。我们将本着以客户的需求为导向,将产品的应用与周到的服务融为一体,诚信协作,努力为客户提供满意的售后服务和专业的设备。

奇富借条(原360借条)

奇富借条(原360借条),是奇富科技旗下信贷科技服务品牌,超2.4亿用户选择的持牌机构。额度大,放款快,操作简单

中粤华腾

中粤华腾在全国各大地区设有服务机构,致力于为企业提供一站式物流装备配套服务。产品涵盖:仓储货架,物流器具,物流软件,输送线,分拣线,自动化立体库,AGV搬运叉车等。

资源库

_资源库_GoodLuckToYou!

全局底部横幅