清华大学尹首一 AI芯片计算架构创新是实现AIoT的必然途径 (清华大学尹首一人怎样)

12月20日,雷锋网主办的AIoT+智慧城市峰会在深圳举行,峰会上清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授分享了他对AI算法如何在物联网设备上实现AI功能的看法以及超高能效AI芯片的最新进展。尹教授认为,未来计算架构的创新将是实现无处不在的AIoT的必然途径。

IoT AI芯片需要解决的核心问题

今天讲到的AI,其核心技术是深度学习,深度学习背后核心技术基础是神经网络。如今已被我们广泛的AI应用,如语音助手、以图搜图,其核心计算大部分都在云上完成。随着物联网场景的拓展,在很多场景中考虑到通讯延时、设备供电以及个人隐私的问题,需要在IoT终端以及传感器上实现AI计算。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授

国际产业巨头,如谷歌、ARM等,均一致认为,未来的AI计算一定是分布式、分层次、分等级的综合系统,这将催生巨大的深度学习芯片市场。据美国Tractica咨询公司的统计和预测,2016到2025年这十年间深度学习芯片市场将飞速增长,到2025年市场规模将达到近700亿美金,其中会有近400亿美金的芯片应用在各种移动设备、机器人、无人机、消费电子、可穿戴设备等IoT领域。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

不过,尹教授指出,要满足IoT设备对AI的需求,需要解决的最核心的问题就是AI算力需求和IoT场景供电能力之间的巨大反差。

尹教授进一步表示,许多IoT的应用对芯片功耗有非常严格的约束,比如我们每天使用的智能手机,用户希望随时随地能够语音唤醒手机、通过语言做自然交互,这就需要手机在具备智能语音识别能力的同时还不影响手机续航。这样的AI计算所能容忍的功耗上限大概是1-2毫瓦,否则手机待机时间就会受到影响。此外,在智能家电、智能眼镜、无人机等场景下,AI计算也面临非常严苛的功耗约束。这就是实现未来AI+IoT愿景所必须解决的问题,如何在这些苛刻的功耗约束下实现超高能效的AI计算。

AIoT的AI芯片必须满足的3个条件

尹教授指出,从应用以及用户体验的角度出发,要实现满足AIoT需求的AI芯片必须满足三个条件:

第一, 可编程性,只有具备可编程性才能满足不同IoT场景下的不同AI算法的需求;

第二, 对计算密集型和访存密集型算法都非常友好,因为今天的AI算法就具备这样的特点;

第三,超高能效,某些场景下我们希望芯片能耗是毫瓦量级,有些场景甚至需要微瓦量级才能满足长时间的IoT计算需求。

超高能效AI计算芯片的进展

目前从AIoT芯片发展来看,大家正在从两个不同的维度(算法和架构)努力实现超高能效的AI计算。算法层面努力的方向是让深度神经网络模型更加紧凑。尹教授介绍,2016年开始看到学术界有很大的进展,目前已经能够把神经网络的权重位宽压缩到1bit,使网络模型实现十倍甚至几十倍的缩小。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

更值得注意的是,从统计看,在极低位网络中,即便把网络压缩到1-2bit,精度仍然接近于全精度神经网络。最新成果显示,用压缩后的神经网络做检测和识别时与全精度神经网络误差只有1个百分点左右,这个差距在绝大部分的应用场景已经可以忽略不计。

除了算法层面,许多科学家在探索如何从计算架构的角度实现更高能效的AI计算,从2014年开始到今天,学术界和工业界提出了很多AI计算架构方案。但是在未来IoT场景里,目前提出的计算架构仍然难以平衡可编程性、超低功耗和特殊网络模型的需求。

从2015年开始,一种新型计算架构,Coarse-grained Reconfigurable Architecture(CGRA),获得国际学术界和工业界的广泛关注。 2015年《国际半导体技术路线图》(ITRS报告)将其视为未来大有希望的可编程计算架构。2017年美国国防部高级研究计划局(DARPA),为了保证美国未来仍然能保持国际电子信息领域的领先地位,发起了“电子复兴计划”,该计划大力布局一项被称为“软件定义硬件”的研究计划。这项计划所研究的是“运行时快速重构”的硬件架构,也就是前面提到的CGRA架构。

就在前几天宣布“开源MIPS指令集”的Wave Computing公司,雷锋网在 《Wave Computing将于明年提供免费MIPS架构,MIPS能在AI时代崛起吗?》 一文中也进行了介绍,其AI芯片的技术来源就是CGRA。CGRA之所以受到广泛关注,正是因为可重构架构能够实现比CPU、GPU、FPGA更高的能量效率,同时还具有良好的可编程性,可以很好满足AIoT的需求。

尹教授介绍,清华大学可重构计算团队最早从2006年开始关注可重构架构。过去十多年时间在可重构架构的基础理论上做了很多探索性的工作。2015年开始,将可重构架构应用在AI计算、神经网络计算场景,并设计了Thinker系列AI芯片。

具体而言,Thinker系列AI芯片区别于传统处理器使用指令级可编程性的技术路线,在核心运算部件、基本处理单元和处理单元阵列等三个层次上实现了硬件可重构能力。比如在基本的乘法累加部件里实现不同位宽的自适应,很好地支持超低位宽的神经网络;在基本处理单元层面实现电路级重构,支持神经网络中的不同算子;在处理单元阵列实现架构级重构,支持不同类型的神经网络。

从2006年开始尹教授的团队已经设计了三款Thinker芯片,其最高能效可达每瓦十万亿次运算,最低功耗可达微瓦量级,可以嵌入到任何一个需要AI计算但电池有限的IoT设备中。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

回顾过去30年间处理器的发展历程,处理器的性能提升得益于半导体工艺进步和计算架构创新的双轮驱动。但随着摩尔定律放缓,半导体工艺的提升越来越有限。尹教授表示,去年图灵奖获得者是两位计算机体系结构的大师John Hennessy和David Patterson,他们在图灵奖的获奖感言里提到,今天是计算机体系结构的新的黄金时代。这句话很好地诠释了未来我们的技术创新和产业发展应该落脚在哪里。

AIoT+智慧城市峰会演讲视频全集稍后将在雷锋网会员【AI投研邦】里推出,并及时通知大家。大家可扫描二维码关注【AI投研邦】。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
新浪汽车

新浪汽车提供汽车报价、图片、视频以及24小时汽车新闻实时报道,海外、国内所有汽车品牌、高清车模、车展报道,应有尽有,另有特色购车帮帮忙、汽车黑科技、竞争力分析,是国内最具影响力的汽车网站!

希子网

希子网是国内会计信息,会计相关资讯的信息网站

高速声屏障

河北金标专业生产高速声屏障,公路声屏障,桥梁声屏障,高架桥声屏障,高铁声屏障,小区声屏障,全封闭声屏障,铁路声屏障,道路声屏障厂家,提供隔声屏障生产安装施工一站式服务。

桔子魔方科技护墙板品牌官网

桔子魔方科技护墙板是时尚设计与一流加工技术的代名词,该品牌产品的超群之处在于其优雅的设计与高新的技术。桔子魔方凭借对纤维技术的一腔热情创造出一流的环保墙面材料,将高质量与对细节的关注相结合。

「简道云官网」零代码应用搭建平台

简道云是零代码的应用搭建平台,可以帮助各行业人员在不使用代码的情况下搭建个性化的CRM、ERP、OA、项目管理、进销存等系统,产品包含自定义表单、自定义报表、自定义流程引擎、知识库、团队协作等功能,适用于各种业务场景。

盛世创富保险经纪网

盛世创富保险经纪网是一家保监会网销许可的互联网保险平台,提供七十多家全国知名保险公司产品网上投保,为用户提供投保交易、风险评估、理赔协助等在内的一站式保险综合服务,为您省去层层代理与中介等环节,让您投保不花冤枉钱。24小时全国客户服务热线400-1888-810。

下水道疏通

立刻通(liketong.cn)专业提供全国各城市下水道疏通,管道疏通,马桶疏通,地漏疏通,化粪池清理,北京疏通,天津疏通,上海疏通,广州深圳疏通等各类管道堵塞疏通服务,咨询热线:400-8899-592.

春明网络

春明网址导航(www.chunming.top)是一个专业的网址导航站,收录全网优秀的各类网站,为大家提供快捷方便的生活服务。网址类型包括:综合网址,办公网址,运营网址,设计网址,新闻网址,程序员网址,站长网址,生活网站,云盘网址,音乐网站,邮箱网址等。目的是满足用户日常的网址导航需求,帮助用户发现更多有趣的网站!

游学宝典

游学宝典网是专业的旅游攻略,旅行活动,旅行故事,当地美食,旅游摄影,旅行资讯知识,以一个旅游者的视角和方式来畅游世界。让您在旅行中寻找最年轻的自己!

华医网

华医网专注于为中国医疗卫生行业提供数字化医学教育解决方案和信息化管理系统服务。我们的使命是“用教育和科技推动医疗健康发展”。

万词库

万词库,一站式传统文化学习平台。在这里,您可以探索诗词之美,感受古籍之韵,深入了解成语、词语背后的故事。无论是学习、研究还是欣赏,想要了解诗词、古籍、成语、词语,万词库都是您不可或缺的好帮手。一个专业的诗词古籍成语词语查询平台,为您提供准确、全面的查询服务。立即访问万词库,体验便捷的查询服务!

全局底部横幅