沉寂近30年后火了！存内计算如何打破AI算力瓶颈 (三十年的沉淀)
2012年，深度学习算法在图像分类竞赛中展现出的显著性能提升引发了新一轮的AI热潮。
2015年，深度学习算法对芯片的快速增长需求引发了AI芯片创业热潮。
不过，拥抱AI芯片的设计者们很快发现，使用经典冯诺依曼计算架构的AI芯片即使在运算单元算力大幅提升，但存储器性能提升速度较慢的情况下，两者的性能差距越来越明显，而深度学习算法带来的数据搬运消耗的能量是计算消耗能量的几十倍甚至几百倍，“内存墙”的问题越来越显著。
因此，依靠软件算法以及云端强大计算能力的人工智能虽然取得了较大的成功，可以胜任多种特定的智能处理任务，但是面临功耗、速度、成本等诸多挑战，离智能万物互联时代还有巨大差距。
AI芯片的核心技术之一就是解决“内存墙”挑战，可以在存储器内直接做计算的存内计算（In-Memory Computing）技术在沉寂了近30年后，AI热潮下近年来成为焦点。无论是顶级学术会议，还是巨头公司都在寻找能够用存内计算打破AI芯片“内存墙”的最佳技术方案。
那么，谁会是最终的破局者？
存内计算被不少业内人士认为是最适合AI的芯片架构，广受学术界和产业界的青睐。
2018年，国际顶级学术会议-IEEE国际固态电路会议（ISSCC）有一个专门的议程讨论存内计算。2019年和2020年关于存内运算的论文更是大爆发，ISSCC2020与存内计算相关的论文数量上升到了7篇。同时，2019年电子器件领域顶级会议IEDM有三个专门的议程共二十余篇存内计算相关的论文。
除了学术界，产业界也越来越多的玩家布局该技术。IBM基于其独特的相变存内计算已经有了数年的技术积累；台积电正大力推进基于ReRAM的存内计算方案；英特尔、博世、美光、Lam Research、应用材料、微软、亚马逊、软银则投资了基于NOR Flash的存内计算芯片。
其实，利用存储器做计算在很早以前就有人研究，上世纪90年代就有学者发表过相关论文。但没有人真正实现产业落地，究其原因，一方面是设计挑战比较大，更为关键的是没有杀手级应用。随着深度学习的大规模爆发，存内计算技术才开始产业化落地。
存内计算的产业化落地历程，与知存科技创始人的求学创业经历关系密切。
2011年，郭昕婕本科毕业于北大信息科学技术学院微电子专业，本科毕业之后郭昕婕开始了美国加州大学圣塔芭芭拉分校（UCSB）的博士学业，她的导师Dmitri B.Strukov教授是存内计算领域的学术大牛，2008年在惠普完成了忆阻器的首次制备，2010年加入了美国加州大学圣塔芭芭拉分校。郭昕婕也成为了Dmitri B.Strukov教授的第一批博士生，开始了基于NOR FLASH存内计算芯片的研究。
Dmitri B. Strukov告诉她，FLASH已经商用几十年，技术成熟，成本很低，是最接近产业化的方向，但缺点同样是因为FLASH研究起步较早，学术界对FLASH存内计算的研究期望较高，发表文章不易。2013年，随着深度学习的研究热潮席卷学术界，在导师的支持下，郭昕婕开始尝试基于NOR FLASH存内计算的芯片研发。
耗时4年，历经6次流片，郭昕婕终于在2016年研发出全球第一个3层神经网络的浮栅存内计算深度学习芯片，首次验证了基于浮栅晶体管的存内计算在深度学习应用中的效用。仅一年后，她就进一步攻下7层神经网络的浮栅存内计算深度学习芯片。
也是在2016年，郭昕婕的大学同学，也是她丈夫的王绍迪，同样看到了存内计算芯片在AI中的应用价值，选择和郭昕婕继续在博士后阶段从事存内计算的研究工作。2017年，美国开始大力资助存内计算技术的研发，王绍迪和其导师的项目也获得了600万美金的资助。郭昕婕夫妇认为时机成熟，毅然选择回国创业，并获得了启迪之星、兆易创新等关联人的投资支持。
2017年10月，知存科技在北京成立，由于积累了丰富的经验，知存科技在成立后的10个月内就首次流片。同时加上存内计算技术逐渐获得认可，知存科技的发展也在逐步加快，并于2018年12月获得获讯飞领投的天使+轮融资，2019年8月又获得中芯聚源领投的近亿元A轮融资。
王绍迪对存内计算技术在AI中的应用充满信心，他接受雷锋网采访时表示：“AI算法的参数越多，存内计算的优势越大。因为存内计算是在存储器中储存了一个操作数，输入另一个操作数后就可以得到运算结果。所以参数越多，节省的数据搬运就越多，优势也就越明显。存内计算可以看作是一个大的锤子，AI算法是钉子，早期落地的算法是小钉子，随着时间推演，钉子会越来越大越来越多。”
知存科技的方案是从底层重新设计存储器，利用NOR FLASH存储单元的物理特性，对存储阵列进行改造，重新设计外围电路使其能够容纳更多的数据，同时将算子也存储到存储器当中，使得每个单元都能进行模拟运算并且能直接输出运算结果，以达到存内计算的目的。
由此看来，存内计算是破解“内存墙”瓶颈的好方法，但为什么在多种存内计算的技术路径中，知存科技选择的是NOR FLASH？
其实，能做存内计算的存储器并不多，除了FLASH，还有亿阻器、相变存储器、铁电存储器、自旋存储器、SRAM等，但各有各的优缺点。
综合来看，NOR FLASH是目前最适合产业化的方向，众多巨头投资的美国初创公司Mythic采用的也正是NOR FLASH。 至于为什么用NOR FLASH做存内计算被业界看好，王绍迪表示：“单独从器件特性看，NOR FLASH的优势不仅体现在功耗和成熟度等方面，高精度也是很大的优势。目前主要的问题是没有28nm以下的NOR FLASH工艺，但是基于当前工艺的NOR FLASH存内计算相比传统方案的优势已经足够高了。”
使用NOR FLASH单元可以完成8bit权重存储和8bit * 8bit的模拟矩阵乘加运算。单一NOR FLASH阵列可并行完成200万次矩阵乘加法运算，计算吞吐量相比DRAM和SRAM等存储器带宽高出100-1000倍。
知存科技存算一体芯片技术
“相比使用数字电路计算，使用NOR FLASH进行存内计算减少了数据搬运消耗的能量，再加上NOR FLASH进行乘加法运算功耗也很低，这样就会带来百倍甚至千倍的功耗降低。”王绍迪表示。
当然，考虑到外围电路的功耗，NOR FLASH存内计算最终能够实现的功耗降低在几十倍到上百倍之间。不同的算法和应用能够实现的提升也不同。
王绍迪介绍，目前来看NOR FLASH存内计算技术可以在单芯片中支持到300M左右的深度学习权重参数，不需要额外的内存就可以进行计算。目前智能语音模型的大小通常在几百K到几兆的大小，端侧的图像推理模型大小通常在几兆到几十兆之间，因此NOR FLASH存内计算芯片可以满足大部分AI场景的需求。
存内计算可以支持的模型精度可以达到现在主流的8比特。 王绍迪说，8比特可以覆盖大部分的深度学习应用，即便有些极限场景需要更高的16比特，我们也有解决方案在研发。我们希望未来存内计算能够覆盖60%-70%的AI应用。
需要指出的是，知存科技的技术水平领先业界3-4年。 郭昕婕博士在2012、2013年就开始研究基于NORFLASH的存内计算技术，其他公司基本到2018年才开始研发投入。作为一项新兴前沿技术，研发存内计算需要大量的技术积累，存在许多坑需要一步一步去踩，即便其他公司投入大量资源，在不出现技术泄露的情况下，至少也得三四年左右的时间才能达到知科技存目前的成绩。
这其中的设计挑战，包含了控制电路、模拟电路、编程技术、可靠性设计、架构设计等。 模拟设计就是其中非常大的挑战，由于FLASH进行的是模拟计算，但算法都是基于数字电路开发，这就对模拟运算增加了很多苛刻的要求。
王绍迪说：“虽然理论上存内计算芯片在功能上无需完全匹配现有的芯片，但目前业界的AI算法都是基于现有芯片架构开发的，因此知存科技的产品必须去适应这些商用算法，并且要做到高精度，这经历了一次次地流片迭代，这些经历和技术积累也成为了知存科技的优势。”
“在迭代的过程中，我们需要去解决工艺、温度、编程、噪声等带来的误差，同时还要解决一些模拟运算遇到的问题，解决问题的过程也是一个创新的过程。正如魏少军教授所说：产品创新是芯片设计企业的永恒话题。”他进一步表示。
而这也解释了知存科技选择NOR FLASH的原因，从零开始设计NOR FLASH存内计算芯片需要非常长的时间，NOR FLASH之所以能比NAND FLASH进度更快，是因为NOR-FLASH已经有一套成熟的方案，可以基于已有的方案进行优化，更快推出产品。
经历了多次流片和技术迭代之后，知存科技上月底发布了两款智能语音芯片MemCore001/MemCore001P，支持智能语音识别、语音降噪、声纹识别等多种智能语音应用。芯片运行功耗小于300uA，待机功耗小于10uA。
根据知存科技的技术文档，MemCore001/MemCore001P典型工作频率为24MHz(工作时钟)和2MHz(唤醒时钟)，MemCore001P在低功耗模式下，采用片内独立的低功耗时钟，可与其他芯片通过中断协同交互，进一步降低整个系统的功耗。
MemCore001/MemCore001P内置2MB深度学习网络参数存储空间，可同时存储和运算多达32层的多个（相同或不同）深度学习网络算法，支持DNN/RNN/LSTM/TDNN等多种网络结构。
作为协处理器，MemCore001/MemCore001P可兼容基于Arm架构的Cortex-M4/M3/M33/M0等系列MCU以及基于RISC-V的MCU。
不过，芯片想要落地，还要把存内计算的硬件优势转化为落地优势。 王绍迪表示，产品能落地仅有一点优势并不够，能否落地还要看市场的需求。当然，想要尽快落地，要做到让现在的商用算法在尽可能少做改变的同时尽快适配我们的芯片，这点非常重要的，这就需要和算法公司一起合作，在落地过程中不断了解需求，让软件和硬件协同起来，都发挥最大作用。
他进一步指出，软件平台可以让开发者在算法迁移和调试的时候更加方便。不过存内计算的工作方式比较简单，比如传统架构需要几百万个周期才能完成的计算，存内计算一个周期就可以完成，所以存内计算的编译器是粗颗粒度的，开发难度较低。
因此，知存科技与合作方开发了相应的系统解决方案，包含智能语音降噪和智能语音识别等算法，可直接集成在芯片中，供应用开发者方便调用。
与其它大部分AI芯片一样，知存科技的MemCore001/MemCore001P在进行算法迁移的时候也需要重新训练。这时候，如何才能吸引客户使用存内计算的芯片？
王绍迪说：“如果我的芯片能够带来的提升非常明显，或者原先不能落地的应用使用了我们的芯片之后可以落地，这样才有人愿意尝试。这样的场景很多，需要去探索，不过目前已经有意向客户准备使用我们的产品。”
知存科技在存内计算的领先性从另一个角度也能说明，“早期研发的时候，由于缺乏晶圆工厂和EDA工具的支持，我们的开发工作很多就要从自动变成手动，但这同时让知存科技建立起了存内计算芯片的设计方法学。”王绍迪表示。
这样的领先让知存科技有可能成为存内AI芯片的破局者，知存科技的目标是在三年内实现5000万颗芯片的出货目标。对此，王绍迪表示乐观，他认为消费市场5000万的出货量并不多，如果选对了方向，一个产品的出货量在几年内就能达到上千万。
5000万的出货意味着公司可以实现盈利，在这样的目标下，硬件和软件都需要不断迭代。 王绍迪透露，现在公司每三到四个月就会流片一次，一年会推出一款甚至两款新产品。视觉芯片的样片会在明年流片，预计后年会正式推出。
作为AI发展的关键推动力，AI芯片能够在多大程度上满足AI算法的需求成为关键。要满足AI算法的需求就需要解决AI芯片内存墙的核心挑战，存内计算以其能够同时存储和计算的特性被视为解决内存墙挑战的一种方法，但其用模拟计算满足数字算法的需求，外围电路设计、软件设计、工艺带来的误差都是挑战。
存内计算的公司之间显然还不是竞争关系，但我们都期待存内计算AI芯片能够出现代表性地应用，推动AI的快速落地和持续发展。
Live回顾：值得你去了解的“存算一体AI芯片技术”
Live预告| 知存科技CEO：存算一体AI芯片的架构创新
原创文章，未经授权禁止转载。详情见 转载须知 。
根据域名和关键词返回360PC关键词收录量、抓取时间、关键词排名（页数-第几条）、页面标题、页面链接地址。
合肥软服信息科技有限公司是一家计算机软硬件及系统集成商，主要产品有合肥收银机、合肥车牌识别、合肥考勤门禁打卡机、合肥建筑实名制系统、合肥平安智慧小区建设、合肥智慧社区、AI识别终端、高空抛物检测系统、智慧工地、小区广告平移门、AI红外智能人脸识别测温设备、智慧校园、智慧安防、合肥二道门系统、医院无线呼叫系统、合肥翼闸摆闸三辊闸、合肥财务进销存软件、协同OA系统、合肥加密软件、合肥会员软件、合肥网络管理软件、软件开发
-旅游-旅游资讯网址
LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.
北京中吉瑞工程项目管理有限公司（中吉瑞工程造价公司）是专业的工程造价咨询公司,可做工程造价,工程审计,工程预算,工程结算,工程跟踪审计,清单组价,广联达算量,施工图预算,标书制作,投标报价,招标控制价,全过程管理等业务,欢迎致电咨询:17601056988
常州市赛威机械制造有限公司
南昌大学中国乡村振兴研究院
岩利通过不断的开拓创新，在股权投资、投资组合、财务咨询和管理咨询等领域已搭建完整的尽调、行研、风控和投管体系。市场板块，岩利依托强大的股东背景和不断的市场拓展努力，致力于向市场提供优质的基金管理和财富管理服务。
重庆君有林业开发有限公司成立于2010年,注册资金200万元人民币,公司拥有苗圃近1000亩,植物60多种,主要承接荒山造林,消落带治理,生态修复,园林景观等,近年来先后完成荒山造林及园林景观绿化工程3万余亩,咨询服务热线:18983918197
全自动保管箱,尾钞保管箱,指纹锁,管理软件,银行保管箱,金库门,金融机具
我公司以特种工程塑料的应用开发为核心，专注于高品质工程塑料精密件和精密模具的研发、设计和制造，拥有多项自主知识产权。 公司的产品聚焦于乘用车、商用车、新能源车、高端厨卫家电等领域，为客户提供具有高安全性、重要功能性的核心零部件。产品系列包括汽车发动机周边部件、汽车传动系统部件、汽车制动系统部件、新能源车部件、智能座便器功能部件、家用热水器功能部件、家用净水器功能部件、精密工业部件等。
上海设计培训网站(www.hxsheji.cn)是专业的设计教育培训门户网站，本站汇集了多家上海UI设计培训机构，上海平面设计培训学校，为您提供上海UI设计培训、上海平面设计培训、上海室内设计培训、上海装饰装潢设计培训、上海动漫设计培训、上海服装设计培训、上海广告设计培训等多个上海培训课程报价及学习资讯
2019.01.09，华为将数据中心网络推入了AI时代，雷锋网1月9日消息，华为正式推出内置自家AI芯片昇腾310的数据中心交换机CloudEngine16800，也是业界首款搭载高性能AI芯片的数据中心交换机，距离华为上一款旗舰产品CloudEngine12800系列的发布已经过去了6年，CloudEngine12800在云时代大获...。
消息，2022年1月25日，百度研究院发布了2022年十大科技趋势，涵盖了AI核心技术、交叉学科与跨领域研究、AI的产业及社会价值三个层面，同时，这十大科技趋势分别涉及了预训练大模型、AIforScience，人工智能应用于科学研究，、基于AI的生物计算、隐私计算、量子软硬一体化、自动驾驶、深空探测、人机共生、绿色AI和普惠AI...。
2021年11月12日凌晨，迟迟未公布的CoRL2021论文奖名单终于揭晓，备受关注的论文大奖全部被华人学者包揽，来自麻省理工大学的TaoChen，JieXu，PulkitAgrawal，导师，拿下最佳论文奖；来自哥伦比亚大学的HuyHa，宋舒然，导师，拿下最佳系统论文奖，本次获提名奖的共有七篇论文，四篇最佳论文奖提名，三篇最佳系统论...。
诞生于加州大学伯克利分校的RISC，V开源指令集近来在中国关注度非常高，5月，上海发布国内首个RISC，V的支持政策，9月，中国RISC，V产业联盟在上海成立，11月，中国开放指令生态，RISC，V，联盟在乌镇宣布成立，有意思的是，中国最早做RISC，V的公司选择了落户深圳，并且仅用7个月就设计出了一款基于RISC，V指令集的AI芯片...。
传45亿条个人信息泄露，圆通回应称情况正在核实2月15日消息，据中证报，快递股昨日出现闪崩，圆通速递跌幅近7%，消息面上，安恒信息在其官方微信公众号发布，不要泄露，疑似45亿条国内个人信息泄露背后的数据安全账，文章，该文称，2月12日晚，Telegran各大频道突然大面积转发某隐私查询机器人链接，网传消息称该机器人泄露了国内45亿条个...。
苹果印度工厂暴乱，iPhone一夜被偷2万部中国台湾科技公司、苹果iPhone主要代工商之一纬创设在印度卡纳塔卡，Karnataka，的iPhone制造工厂于当地时间12月11日晚发生抗议暴动事件，警方在事发后已赶往现场维持秩序，目前累计已逮捕132人，目前，据统计，纬创损失高达43.7亿卢比，约3.88亿台币，，有超过2万部iPho...。
华为多地重兵投入研发无人车*华为设计总监2015年在微博上发布的，Honor，汽车概念渲染图，2月21日，有媒体曝出华为正在研发无人驾驶汽车之后，多个消息源向雷锋网新智驾，AI，Drive，确认了华为无人车研发的消息，并且人员投入颇大，一名来自高校的自动驾驶从业者告诉雷锋网，，华为确实有团队在进行无人车研发，另一消息源向雷锋网透露，...。
AI芯片在科技领域到底有多热门，如果高通、英特尔、英伟达这些传统芯片巨头都已开始制造AI芯片还不够证明其热度，那么电商巨头亚马逊、社交巨头Facbook、软件巨头微软等也都开始自主研发AI芯片不仅能说明AI芯片到底有多受关注，更能证明其重要性，相比美国的科技巨头，国内三大科技巨头BAT的脚步似乎并没有那么快，在中兴通讯事件再次引发全民...。
独家确认，AI芯片创业公司墨芯人工智能，MoffettAI，联合创始人兼首席架构师肖志斌已经离职2个月，离职后他将专注于AI大模型软件及系统层面的工作，目前暂不清楚接替肖志斌的人选，肖志斌是美国加州大学戴维斯分校电气工程博士，曾任职于德州仪器、Oracle，Sun和阿里巴巴达摩院等知名企业，担任核心架构师和研究员，主持和参与了多...。
不管你是一个从事认知计算、AI还是机器学习的开发者，你很可能会同意这一观点——第四次工业革命已经开始，而且正在加速，当前，在广义的AI领域，行业、技术、知识变化的速度是如此之快，任何一个想要跟上前沿研究进展的开发者，都要日日夜夜地苦下功夫，关注动态资讯、研读paper、和技术牛人交流只是其中的一部分；学术会议、行业峰会、worksho...。
AI时代一个值得关注的新变化是科技巨头们都纷纷开始自主研发AI芯片，一方面可能是因为科技巨头们积累了大量数据价值待挖掘，另一方面是目前的芯片算力不足且十分昂贵，美国作为传统的科技强国，FANG中的谷歌正在领跑，中国互联网巨头也大力发展AI，其中阿里的AI芯片进展最受关注，那么，BTA能否在AI芯片领域挑战FANG，中国有BAT，百度、...。
人工智能的赛道正变得越来越拥挤，竞争也正变得越来越激烈，芯片作为AI发展的重要驱动力，随着Facebook、亚马逊等科技巨头也加入造芯的行列，AI芯片战即将打响，不过，芯片的研发不可能一蹴而就，收购初创企业就成了许多巨头加速自主研发芯片的进程选择，那么，科技巨头喜欢收购或者投资什么样的AI芯片初创公司，收购AI初创公司，目标是服务生态...。
3月5日，十四届全国人大一次会议开幕，李克强总理所作的政府工作报告，回顾总结过去一年和过去五年经济社会发展，并对今年发展提出建议与奋斗目标，作为人工智能领域民营科技领军企业，佳都科技深刻感受到了政府工作报告所传递的推动经济高质量发展的信心和推进科技自立自强的决心，奋斗铸就辉煌，实干赢得未来，，党和政府高屋建瓴又务实落地，对于民营经济...。
2024年，之所以被称为，消费促进年，，是因为真金白银的补贴力度，是一浪接着一浪，首先，在国家以旧换新政策吹响第一声号角后，广大消费者对家电换代升级的热情，就比往昔更为热烈，7月，发改委联合财政部又下发新文件，用，加力，二字着重强调了以旧换新的关键，8月，商务部文件又进一步推动了补贴力度，而最近，双11这个大消费潮又来了，国补、企补、...。
雷锋网消息，高通在骁龙技术峰会首日发布了最新一代旗舰5G手机平台骁龙888，作为骁龙8系列最新产品，骁龙888集成高通第三代5G调制解调器及射频系统——骁龙X60，支持全球毫米波和Sub，6GHz全部主要频段，以及5G载波聚合、全球多SIM卡功能、独立，SA，和非独立，NSA，组网模式以及动态频谱共享，DSS，值得注意的是，骁龙88...。
1.作为一位深感失望的母亲，面对女儿的行为，首先要认识到每个孩子都有自己的成长路径和速度，尽管可能与期望相去甚远，但彻底的失望并非解决问题的方法，2.对于丈夫，如果婚姻关系到了令人伤心欲绝的地步，首先要沟通和表达自己的感受，如果沟通无效，寻求专业婚姻咨询或者考虑分开，都是为了自身幸福考虑的重要步骤，3.女儿的问题是许多家庭面临的挑战，...。
1、如果你不是大品牌，就把品类名老老实实放上去，至少让人一看知道你卖啥，2、如果你不是大品牌，你就不要装国际范，一切以顾客快速看见和理解为核心，3、如果你不是大品牌，广告就不要诉诸情感，直接诉求利益最好，4、如果你不是大品牌，你就不要追求面面俱到，主打一个点，足够锋利，足够动心，5、如果你不是大品牌，广告语一定要嵌入品牌名，每一次传播...。
