算力 开发平台 AI 合肥君正公布全栈式低功耗 芯片 AI 技术 AI (算力公司)

文章编号:37921 资讯动态 2024-11-30 合肥君正

「芯片+AI 算力+AI 开发平台」,合肥君正公布全栈式低功耗 AI 技术

习惯在针尖上跳舞的合肥君正,在萌芽之时就认识到AI的重要性。

2014年前后,视频芯片市场已有众多厂商,且大多鏖战成像和传输。彼时的君正意识到,用模仿的方式硬生生地去打这个市场难以出头且毫无价值,而AI将成为下一战场的关键。从那时起,AI与算法部门成为君正最早的技术部门之一。

7年白驹过隙,那些或深或浅的脚印现已踏出一条康庄大道:最近,君正正式公开了自己的AI硬件加速引擎和AI开发平台Magik。

君正视频事业部副总经理刘远表示,这套技术从开始至今,经历了各方面的锤炼:

“从T01到T02再到T31/T40,从computer vision到deep learning再到混合量化,从安防摄像机到低功耗门铃再到立体机器视觉,从Tensorflow/Caffe到Magik,从第一家客户试探性接入到大量产品算法落地,这套技术已经从创新研发走到普惠应用。”刘远说道。

这历时多年的武器,将往视频行业投下一枚怎样的石头,又怎样协助下游客户落地更具竞争力的产品?

直奔落地的一整套「芯片+AI算力+AI开发平台」解决方案

如何为端侧AI应用提供一套成本亲和,性能出众,功耗低,又易于落地的基础技术组件?这正是合肥君正一直在思考的命题,也是君正AI技术研发的核心目标。

刘远指出,经过多年摸索,这样一套基础技术组件如今包含:

君正的整体AI技术架构如下图:

「芯片+AI 算力+AI 开发平台」,合肥君正公布全栈式低功耗 AI 技术

其中AI-Engine(AIE)是一整套AI加速硬件,包括CPU,NNA,SIMD,协处理器和RAM Pool等多重加速技术。

主要优势是“三高三低”: 算力高,利用率高,灵活性高;功耗低,外围成本低,带宽需求低。

Magik是基于AIE的算法开发平台,除了基本的工具链还包含其他丰富的辅助开发资源。并且支持后量化和更先进的量化感知训练(QAT)。

“卷积神经网络的本质是计算,幸运的是,君正一直是国内为数不多的完整CPU计算技术的拥有者,这一点,奠定了我们的AI技术具有较高的发展起点。”

刘远说道,“而Magik融合了我们这几年在视觉产品落地上的各种经验,能够发挥AIE独特的领先性能。二者搭配,呈现在行业客户面前的就是一整套完整的‘芯片+AI算力+AI开发平台’的解决方案,使得应用者非常容易落地。”

利用这套平台,可以带来多方面长远的优势:

“AIE+Magik是君正原生创新的技术,完全自主。T40作为搭载这套技术的最新一代芯片,却并非第一代产品。”刘远强调,“在这之前,我们经过了T01/T02/T31等几代量产芯片的验证,积累了大量宝贵经验,到T40这里,AIE+Magik已经十分成熟”。

AIE—有效突破端侧AI的算力瓶颈

AI-Engine(AIE)是君正完全自主创新的一套AI加速硬件组合,广泛支持各类神经网络加速,如CNN/RNN/GCN等,也支持传统CV算法和平面运算的加速。得益于公司对CPU技术的掌握,AIE实现了其他一般芯片公司难以做到的CPU与NPU的同构设计。

「芯片+AI 算力+AI 开发平台」,合肥君正公布全栈式低功耗 AI 技术

全球各种不同的AI加速技术路线中,DSA(Domain Specific Architecture)尤其适合端侧推理场景。AIE引用了多种DSA的设计理念,实现了一整套满足复合算法加速的硬件组成:

“与云上的AI芯片加速不同,在端侧芯片上,4T算力曾经是天花板,这并不是因为硬件无法将算力继续提高,而是因为端侧产品在算力以外有太多的制约因素。”刘远解释道,“如果不优先把NPU内部的PPA、带宽、功耗等关键障碍解决,即使再提高计算矩阵的规模,实际芯片也大概率发挥不出来。”

归纳起来,端侧算力的瓶颈主要集中在:产品端的资源限制,算法多样性的挑战和算法开发环境。

「芯片+AI 算力+AI 开发平台」,合肥君正公布全栈式低功耗 AI 技术

端级芯片在计算资源和成本都面临限制,无法像云端服务器那么丰富和冗余。

在终端售价,RAM内存容量,ROM模型存储,发热控制,DDR的带宽等方面都面临极大挑战。

所以端级产品需要与云端不同的AI加速技术。

君正AIE特别针对端级应用设计,采用专用硬件架构DSA(Domain Specific Architecture),与常见的NPU相比,有明显的规格优势:

无论2C还是2B/G市场,不同应用对AI算法的要求差异很大,即使是相同功能的算法也难以做到单一模型覆盖所有场景。

其次人工智能学术领域仍然在发展,虽然变化的速度减缓,但未来仍然会不断出现新的网络,新的流程,新的算子,新的训练方法等等,这些决定了目前的AI加速硬件还没有到达统一收敛的阶段。

端级算法本身呈现多样性,碎片化的客观现状。

这就要求芯片中硬件的加速能力非常灵活,能够应对各种未知算子/算法/网络/流程的变化,这一点对AI引擎的设计提出巨大挑战。

君正AIE结合了多年积累的CPU技术,摸索了一套兼顾高性能和灵活性的创新技术:

“过去至今各种行业摄像机搭载的AI算法,大多存在‘性能冗余但利用率低’、‘成本偏高但有浪费’、‘功能可用但难以普及’等情况,随着搭载AIE+Magik的T40逐步到位,能做到8T算力,小于0.5W的加速功耗,并且内置了DDR,这些痛点会得到很大改善。”刘远表示。

Magik—全栈式深度神经网络开发平台

硬件是躯体,软件和算法是灵魂。如果是AIE是躯体,那么Magik就是灵魂。

Magik是一个面向端侧AI应用的全栈式开发平台。与一般的AI开发工具链相比,Magik包含了更丰富的内涵:

“Magik不仅仅是一个AI转换工具链,还是一个丰富的开发平台,”刘远补充道,“有工具链,framework插件,Model Zoo,常用的backbones,还包括一般摄像机非算法的支撑功能,例如成像,编码,帧数据流,内存复用优化,存储降维,多目同步,甚至内存泄露防范等都有体现在内,真的值得用一用”。

Magik的一大特色是支持较为先进的QAT方法论。端级AI应用目前大多还停留在后量化方法阶段,相比QAT,后量化更像是端级AI的过渡阶段。后量化过程相对简单,但精细度不足,算力容易形成浪费,功耗成本带宽等难以解决。QAT方法能够更精细地根据加速硬件的特点调整训练细节,从而发掘端级AI算力的潜力,达到提升算力利用率,降低功耗,带宽和成本的效果。

使用Magik的开发过程很容易上手,流程示意图如下:

「芯片+AI 算力+AI 开发平台」,合肥君正公布全栈式低功耗 AI 技术

“Magik就像一把‘云梯’,帮助客户快速落地AI算法和视觉产品,它能给行业带来长期的助力”。

与AIE的发展相辅相成,Magik具有未来小型生态的潜力,其坚实基础是君正过去,目前和未来所有的算力芯片,只要君正芯片能够覆盖到的市场领域,都可以发挥作用。

春风化雨时,润物细无声

“早几年当AI的浪潮滚滚而来,喧嚣尘上之时,我们并没有太多发声,但并不代表我们没有行动。”刘远讲道,“当东西没有真正拿得出手时,我们自己心里这一关就过不去。而现在,AIE+Magik这一套技术,已经服务了很多客户,并让不少人尝到了甜头”。

据了解,AIE+Magik已经成功服务了超过几十家客户,包括一些行业知名品牌,传统算法公司,行业监控企业,大型互联网品牌,运营商以及初创极客。

这些服务,远超算法开发这个层面。要实现设备承载不同的算法运行,首先需要克服算法计算标准化的困难,但这只是端侧AI落地过程中挑战的冰山一角。

除此之外,设备的产品属性,可量产属性,消费者体验属性以及开发周期等方面都需要大量的投入。

君正完成了各种典型视觉产品的方案积累,例如安防监控,物联网视觉,低功耗成像,智慧办公,文字扫描,生物识别,立体视觉等领域都能提供完整的解决方案,让算法赋能只需要做简单加法就可以落地。

“这样做有没有社会价值,有多大的社会价值,是推动我们每一项产品和技术研发的精神内核。”

北京君正副总经理黄磊曾多次强调。在AIE+Magik的落地过程中,赋能下的各大下游企业的产品价值,都是对这一说法的精准注脚。

“有一家算法专业型的客户,本身有很强的算法开发能力,基于君正芯片和Magik平台,开发了全新的产品系列。新产品系列比之前的老产品,成本下降了一个数量级,实现小型化。客户还独立完成了人脸识别算法的移植,运行效果十分良好。”

刘远介绍说,“与此同时,另一家知名的销售专业型客户,本身算法能力不强,但是非常清楚消费者痛点。基于君正芯片和Magik平台,在君正的辅助下建立了算法团队,利用Magik平台的开源代码和网络,基于自己的数据资源训练了人形侦测算法,客户利用消费者优势,不断对算法进行迭代,最终以运营方式上线算法,消费者反馈良好,运营转化率高于预期。”

不知不觉间,优质的服务成为了君正在智能视觉市场的核心竞争力之一。

目前随着T40芯片到位,很快将有更多搭载AIE+Magik的产品陆续进入市场。基于T40打造的视觉产品,能做到4T/8T算力,能耗比最低达到0.05W/T级别,外围BOM很简单,芯片售价做到几个美金。配合Magik和各种成熟方案资源,T40有望成为AI视觉大市场的细雨春风。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
新疆博联经济发展规划研究院

新疆博联经济发展规划研究院下设6个研究所,主要服务项目包括:区域经济发展战略规划、区域经济(产业)专项规划、区域循环经济发展规划、区域旅游产业发展规划、现代农业产业发展规划、工业园区产业发展规划、物流园区产业发展规划、煤化工产业发展规划、重大项目可行性研究报告、大中型企业文化建设研究等。

114网址大全114link.com

114网址大全114link.com-114网址导航;一个免费网站收录、网址导航、软文推广、文章免费发布、网站免费收录、网站快速提交收录、外链推广等服务。

山东方管,山东方矩管,山东镀锌方管,方矩管

山东鲁航方管厂家(189-6351-1368)长期销售山东方管,山东方矩管,山东镀锌方管,方矩管等产品,规格齐全,质量可靠,价格优惠,可按需生产定做,常备百万吨现货,发货及时,质量保障,15年钢铁经营经验,详情咨询.

星空云

星空云AI财税机器是是面向中小型企业和财税代理公司的专业、简单、智能的全自动财税一体化软件:可以精准高效自动采集发票、银行账单等,能够自动生成凭证、账表,同时自动批量一键申报;无需专业会计知识也能轻松做账报税,真正为企业降本增效提升利润。

寿光旅行社【寿光阳光旅行社】寿光菜博会

寿光阳光旅行社是寿光地接实力最强的旅行社,寿光菜博会观光一日游,寿光农业观光二日游,寿光农业观光考察三日游。咨询电话:0536-5109922/5209922/5260466/5261466。

反应釜厂家,不锈钢反应釜,反应釜生产厂家

山东淄博千盛化工设备有限公司是专业的不锈钢反应釜,反应釜生产厂家,研发的不锈钢反应釜、反应釜系列化工设备产品质量可靠,欢迎来电咨询

推啊啊网

流量如何变现,推啊网-互动式效果广告投放平台,开创互动广告全新形式,日均曝光50亿+,覆盖12亿+在线移动APP用户,兼顾媒体收益、用户体验及广告转化,实现媒体主、广告主、用户多方共赢。

诊所医用污水处理设备

山东凌科环保科技有限公司(www.sdlkzt.com)是专业销售诊所医用污水处理设备,小型医疗用污水处理设备的公司,公司技术力量雄厚,资质证书齐全,经营动作规范,研发水平高,行业资质完备,能为客户提供良好的售后服务,欢迎来电洽谈.

消防泵

消防泵_消防泵品牌_消防水泵配套设备_消防泵控制柜_消防泵厂家_正精给排水设备有限公司是专业从事消防泵、消防水泵、消防泵控制柜及配套研发、生产的高新技术企业。生产覆盖电动机消防水泵、柴油机消防泵、消防稳压给水设备、消防气体顶压给水设备、排污泵、控制装置等产品,并广泛应用于民用住宅、商业地产、医院、学校等建筑工程。

串口服务器

有人物联网定位为可信赖的智慧工业物联网伙伴。主营5G/4G工业级无线路由器、串口服务器、数传终端DTU、边缘计算网关、Cat-1模块、LoRa网关/模块、4GDTU、4G模块、蓝牙模块、串口WIFI模块、WIFI无线串口服务器、串口转以太网模块、超级网口以及云平台传输,实现软硬一体化联网解决方案。

全局底部横幅