要让深度学习模型训练时间缩短100倍 CAIIC 2016 英特尔宋继强 2020年

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

雷锋网按:今日,由中国人工智能学会主办的 2016 中国人工智能产业大会暨第六届吴文俊人工智能科学技术奖颁奖盛典在深圳举行。英特尔中国研究院院长宋继强站在芯片供应商的角度为大家分享了他对人工智能的观点。以下整理自演讲内容,雷锋网做了不改变原意的修改。

数据驱动人工智能的发展

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

据第三方机构预测,到2020年会有500亿的智能设备连入互联网,这些智能设备会产生大量的数据,到2020年,仅一位互联网用户每日就能产生1.5GB的流量,而一家智慧工厂每天产生的数据更是高达1000000GB,当然,你完全不用为此感到惊慌,这些数据正是人工智能算法的基础。

宋继强如是说。

数据是基础,但拥有数据之后并不意味着你可以就此一劳永逸。在应用层,除了从各种渠道获取的数据之外,处理和分析数据的能力也格外重要,通俗点说,就是有了数据你要知道怎么用。宋继强认为,这其中的关键是端到端的集成。

人工智能依然处于早期阶段

人工智能从60年前被提出,到现在已经发展到了一个新的高度,人工智能已经逐渐融入到了人们的生活当中,不过在宋继强看来,现在的人工智能并不成熟。“20年后再来看,历史的发展长河里面,现在人工智能仍然处在一个早期阶段。”

宋继强给出了三个评价技术是否已经达到了成熟阶段的标准:

英特尔联合创始人Robert Noyce曾表示,“一直以来,我们通过计算机建模的方式来探究大脑如何工作。或许我们应该反其道而行之,为了探索计算机的未来发展方向,我们应该向大脑寻求答案。”宋继强在大会上也表示,怎么利用我们在脑科学上得到的一些认知和新奇的想法,去促进计算机科学或者计算架构的发展,为这个领域提供更好的计算能力,这是业界需要考虑的。

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

宋继强以深度学习举了个例子:如果训练出一个深度学习模型,直接变成一个硬件是不太可能的,而且也是低效的,高效的办法是去分析这个模型,而且必须找到懂这个模型的人、懂为什么产生这种模型,然后把这个模型通过硬件的描述给描述出来,接下来是抽象出硬件中的数据流。这里会涉及到很多问题,数据是怎么流的?中间的流水线上有哪些重要处理模块?它们各自的时间、带宽要求是怎么样?有哪些计算的原语?在这样的基础上,做硬件芯片就有很好的认识,我们能知道哪些放在硬件里面固化,哪些是去灵活使用,有了这样的认知以后,就可以产生出一个针对这种工作,这种工作负载优化的硬件。

英特尔做了什么?

虽然宋继强在大会现场表示英特尔不是人工智能领域的专家,但英特尔近一年来在这一领域做出的投入并不少。他说,英特尔正在做的就是终端到云端的解决方案,例如中间的通讯链路、存储等。

在云端方面,雷锋网曾报道,今年11月英特尔推出了代号为Lake Crest的芯片,这是一款专门为深度学习定制的处理器。宋继强在现场介绍了这款芯片的特点:第一,它里面的运算设计是为了深度学习量身定制,同时它的计算密度也非常高;第二,它突破了多节点之间数据访问的瓶颈;第三,支持高速的内存,这个高速内存是使用HBM2的内存,直接封装在一个芯片的。

这样的设计意味着什么?

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

除此之外,在硬件方面,至强、至强融核的技术以及Arria FPGA也都是英特尔在人工智能硬件上不可或缺的产品线,这些人工智能的硬件和方案都属于英特尔Nervana平台的产品。

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

反观在算法的研究上,英特尔更多的是与学术界合作,合作的方向也是多元化的:如何加快训练的速度,以及更好的利用少一些的数据和少一些的监督,来达到训练的特性;怎么把大模型稀疏化和修剪,因为现在模型和参数非常多,但实际有用的却寥寥无几,这对存储和计算会造成巨大的浪费,所以怎么做好大量模型的稀疏化,以提升效率;第三点是怎么支持更大规模的计算,例如在云端可以同时做运算,在每个节点用更高阶的方法做处理。

毋庸置疑,这些技术可以大幅增加模型的并行化计算能力,而未来英特尔也将推出更先进的Knights Crest。宋继强还透露了英特尔的一个小目标, 到2020年,在英特尔软硬件方案的集成下,深度学习模型的训练时间可以缩短100倍。

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

在数据爆发且对计算性能要求苛刻的时代,云端固然重要,但对实时性要求高的应用而言,终端的处理能力也不容忽视。今年9月,英特尔收购了视觉处理芯片商Movidius,这是英特尔在人工智能终端上布局的代表作。在宋继强看来,终端嵌入AI是未来的一大趋势,它有更高的能效、更低的宽带需求、更低的延迟,而且对存储的消耗更少,容错连续性也更好。

宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

人工智能还有很多事可以做

最近一两年,国内外科技巨头已经纷纷把目光聚焦在了人工智能,但正如宋继强所言,人工智能依然处于早期阶段,创业团队依然可以从中找准自己的角色,例如,无人驾驶、精准医疗、智慧城市、互联网金融等都将蕴藏着巨大的机遇。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
北京中科特科技发展有限公司

特种,防水胶带,专业,品牌,生产,防水,防潮,防霉,热缩材料,特种材料

PHP中文网:一切建站资源免费下载

php中文网下载站为网站开发和前端人员提供最专业,最全的建站资源。包含各种最新的网站源码,前端模板,JS特效代码,图片素材,实用的在线工具等。并且一切资源免费!欢迎下载!

生活服务网站

生活服务网站排名,根据网站的综合值按照不同的生活服务网站进行筛选排名结果,通过筛选生活服务网站可以看到每个生活服务网站里面的网站排名优质的网站是哪些

江苏富林医疗设备有限公司

江苏富林医疗设备有限公司致力于专业医疗设备和家庭保健产品的研究与开发。打造顶尖医疗器械制造中心,为客户创造最大的经济效益。公司现有员工200多人,拥有先进的研发中心、一流的生产线、完善的销售渠道以及贴心服务的售后团队。

Base64编码

Base64在线编码解码

朋友不让放辣椒就成了这个样子

豆果美食为华人美食菜谱社区,提供各种美食、菜谱大全、食谱大全、精选的家常菜谱大全,用户通过图文形式记录生活的点滴,社区每天产生数万次的笔记曝光,内容覆盖时尚、护肤、美食、旅行、影视、读书、健身等各个生活方式领域。与千万会员一同分享的人生!

济南设计公司

山东锐尚专业从事济南品牌设计,济南标志设计,高品质济南vi设计,济南包装设计,拥有专业团队的济南设计公司,专业服务打造济南品牌设计,济南标志设计以及济南vi设计卓越服务

黄岛招聘网

黄岛招聘网【西海岸直聘】提供西海岸人才招聘网、黄岛人才网、胶南招聘网、黄岛信息网最新招聘信息,全西海岸新区海量招聘信息让您查找,本地化的的人才求职网络平台。0532-83009699

首页

首页,青藤绿色建筑(广东)有限公司

The
The

SleepResearch&TechnologyExpertise

石油产品蒸馏仪

上海羽通仪器仪表厂(www.yutongguoji.com)供应石油产品蒸馏仪、石油产品测硫仪、石油产品残炭试验器、油品燃点测试仪、油品闪点测试仪、石油低温性能测试仪等产品,是石油化工行业,电力行业等实验室检测设备和实验室常规设备的制造商。

全局底部横幅