要让深度学习模型训练时间缩短100倍 CAIIC 2016 英特尔宋继强 2020年

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

雷锋网按:今日,由中国人工智能学会主办的 2016 中国人工智能产业大会暨第六届吴文俊人工智能科学技术奖颁奖盛典在深圳举行。英特尔中国研究院院长宋继强站在芯片供应商的角度为大家分享了他对人工智能的观点。以下整理自演讲内容,雷锋网做了不改变原意的修改。

数据驱动人工智能的发展

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

据第三方机构预测,到2020年会有500亿的智能设备连入互联网,这些智能设备会产生大量的数据,到2020年,仅一位互联网用户每日就能产生1.5GB的流量,而一家智慧工厂每天产生的数据更是高达1000000GB,当然,你完全不用为此感到惊慌,这些数据正是人工智能算法的基础。

宋继强如是说。

数据是基础,但拥有数据之后并不意味着你可以就此一劳永逸。在应用层,除了从各种渠道获取的数据之外,处理和分析数据的能力也格外重要,通俗点说,就是有了数据你要知道怎么用。宋继强认为,这其中的关键是端到端的集成。

人工智能依然处于早期阶段

人工智能从60年前被提出,到现在已经发展到了一个新的高度,人工智能已经逐渐融入到了人们的生活当中,不过在宋继强看来,现在的人工智能并不成熟。“20年后再来看,历史的发展长河里面,现在人工智能仍然处在一个早期阶段。”

宋继强给出了三个评价技术是否已经达到了成熟阶段的标准:

英特尔联合创始人Robert Noyce曾表示,“一直以来,我们通过计算机建模的方式来探究大脑如何工作。或许我们应该反其道而行之,为了探索计算机的未来发展方向,我们应该向大脑寻求答案。”宋继强在大会上也表示,怎么利用我们在脑科学上得到的一些认知和新奇的想法,去促进计算机科学或者计算架构的发展,为这个领域提供更好的计算能力,这是业界需要考虑的。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

宋继强以深度学习举了个例子:如果训练出一个深度学习模型,直接变成一个硬件是不太可能的,而且也是低效的,高效的办法是去分析这个模型,而且必须找到懂这个模型的人、懂为什么产生这种模型,然后把这个模型通过硬件的描述给描述出来,接下来是抽象出硬件中的数据流。这里会涉及到很多问题,数据是怎么流的?中间的流水线上有哪些重要处理模块?它们各自的时间、带宽要求是怎么样?有哪些计算的原语?在这样的基础上,做硬件芯片就有很好的认识,我们能知道哪些放在硬件里面固化,哪些是去灵活使用,有了这样的认知以后,就可以产生出一个针对这种工作,这种工作负载优化的硬件。

英特尔做了什么?

虽然宋继强在大会现场表示英特尔不是人工智能领域的专家,但英特尔近一年来在这一领域做出的投入并不少。他说,英特尔正在做的就是终端到云端的解决方案,例如中间的通讯链路、存储等。

在云端方面,雷锋网曾报道,今年11月英特尔推出了代号为Lake Crest的芯片,这是一款专门为深度学习定制的处理器。宋继强在现场介绍了这款芯片的特点:第一,它里面的运算设计是为了深度学习量身定制,同时它的计算密度也非常高;第二,它突破了多节点之间数据访问的瓶颈;第三,支持高速的内存,这个高速内存是使用HBM2的内存,直接封装在一个芯片的。

这样的设计意味着什么?

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

除此之外,在硬件方面,至强、至强融核的技术以及Arria FPGA也都是英特尔在人工智能硬件上不可或缺的产品线,这些人工智能的硬件和方案都属于英特尔Nervana平台的产品。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

反观在算法的研究上,英特尔更多的是与学术界合作,合作的方向也是多元化的:如何加快训练的速度,以及更好的利用少一些的数据和少一些的监督,来达到训练的特性;怎么把大模型稀疏化和修剪,因为现在模型和参数非常多,但实际有用的却寥寥无几,这对存储和计算会造成巨大的浪费,所以怎么做好大量模型的稀疏化,以提升效率;第三点是怎么支持更大规模的计算,例如在云端可以同时做运算,在每个节点用更高阶的方法做处理。

毋庸置疑,这些技术可以大幅增加模型的并行化计算能力,而未来英特尔也将推出更先进的Knights Crest。宋继强还透露了英特尔的一个小目标, 到2020年,在英特尔软硬件方案的集成下,深度学习模型的训练时间可以缩短100倍。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

在数据爆发且对计算性能要求苛刻的时代,云端固然重要,但对实时性要求高的应用而言,终端的处理能力也不容忽视。今年9月,英特尔收购了视觉处理芯片商Movidius,这是英特尔在人工智能终端上布局的代表作。在宋继强看来,终端嵌入AI是未来的一大趋势,它有更高的能效、更低的宽带需求、更低的延迟,而且对存储的消耗更少,容错连续性也更好。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

人工智能还有很多事可以做

最近一两年,国内外科技巨头已经纷纷把目光聚焦在了人工智能,但正如宋继强所言,人工智能依然处于早期阶段,创业团队依然可以从中找准自己的角色,例如,无人驾驶、精准医疗、智慧城市、互联网金融等都将蕴藏着巨大的机遇。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
新闻联播

《新闻联播》是中央广播电视总台每日晚间播出的一档新闻节目,被称为“中国政坛的风向标”,节目宗旨为“宣传党和政府的声音,传播天下大事”。

软件下载

华军软件园提供国内外最新的装机必备软件下载,包含免费软件下载、绿色软件下载、游戏下载。常用软件下载,来华军软件园就够了!

沈阳建筑设计公司

沈阳建筑设计公司,辽宁金辉建筑设计有限公司18年建筑工程设计经验,乙级资质,注册工程师10余人,**职称技术人员30余人。专业的市政建筑设计,景观观设计,房屋改造加固设计,工业厂区规划设计,效果图设计

京东下载2024安卓最新版

【豌豆荚】为你提供京东APP安卓版下载,历史版本、旧版下载,查看2024最新京东手机版介绍、应用截图、网友评论,方便快捷的将安卓版京东应用免费下载到手机。

温州市鹿城区桦玺网络信息工作室

包秀梅国学网-传承易学经典文化、弘扬华夏传统文化,网站主要以八字、风水、相学知识为核心,算命,旨在为易学爱好者提供一个优秀的学习知识平台。

博弈知识网

常用生活知识哪家强就上博弈知识网,汇集了知识问答、各种百科小知识、生活常识知识、保险知识解答等帮助大家解决生活各种问题的平台。

haotl天龙八部私服发布网

haotl天龙八部私服发布网,国内知名天龙八部最新开服sf,下设天龙sf教育,免费天龙八部公益服发布网时尚,购物,科技,娱乐,生活,天龙八部私服发布网互动等天龙八部发布网频道。

东坡汇率网

东坡汇率网为您提供最新、最准确的货币汇率查询服务。我们24小时不间断更新,让您随时掌握市场脉搏,轻松进行汇率换算和追踪。无论是个人旅行还是企业金融决策,东坡实时汇率网都是您的最佳选择。

气候网

气候网(www.qihou.com)准确提供24小时,今天,明天,未来一周7天,10天,15天,30天,40天,天气预报查询服务,可以查询全国城区四十天天气预报!并且为用户提供生活指数、健康指数、旅游攻略、交通出行、空气质量指数,及各类天气预报和生活资讯

深圳复盛空压机

深圳市耀荣机电设备有限公司是复盛集团在华南地区设立的专业代理、销售及维修服务的复盛空压机经销商。多年以来经复盛公司层层培训、严格考核以及自身刻苦细致的工作实践,我公司拥有一支专业知识性强、经验丰富的服务团队,能为广大用户提供高效、优质、全面的服务。

620手机站

620手机站是一个专业的软件下载门户,提供丰富的安卓手机软件和手游资源。用户可以轻松下载各种热门游戏,查看最新的手游排行榜,尽享手机应用市场的便捷服务。让你的手机应用更加丰富多彩!

全局底部横幅