和英伟达 100 挑战 Cloud AI Intel 边缘推理芯片 高通发布 (和英伟达1030哪个好)

文章编号:46437 资讯动态 2024-12-10 端侧推理芯片高通

挑战 Intel 和英伟达,高通发布 <a href=Cloud AI 100 边缘推理芯片" src="http://www.gpxz.com/zdmsl_image/article/20241210004743_10463.jpg" loading="lazy">

昨天,高通在旧金山召开了年度人工智能日(AI Day)大会。在本次会议上,该公司揭开了三款芯片的神秘面纱,而这三款芯片可以用于智能手机、平板电脑以及其他移动设备。然而,这些芯片只是开胃菜,重头戏是一款专为边缘计算设计的新产品—— Qualcomm Cloud AI 100。

产品管理高级副总裁Keith Kressin说,“我们设计这个全新的信号处理器旨在为AI推理服务,”他还补充道,产品将在明年下半年开始生产。

Cloud AI 100集成了一系列开发工具,包括编译器、调试器、分析器、监视器、芯片调试器和量化器。此外,它还支持包括ONNX、Glow和XLA在内的运行时,以及googletensorflow,Facebook的PyTorch、Keras、MXNet,百度的PaddlePaddle和微软的Cognitive Toolkit等机器学习框架。

高通估计,这款产品的峰值性能是骁龙855和骁龙820的3至50倍。公司还声称,与传统的FPGA相比,它在推理方面的平均速度要快10倍左右。此外,以TOPs(高性能芯片常用的性能指标)衡量,Cloud AI 100的运算速度可以“远远超过”100TOPs。相比之下,骁龙855的最快只有7TOPs。

Kressin解释说:“FPGA或GPU通常可以更有效地进行AI推理处理,因为GPU是并行的,而CPU是串行的,并行芯片更适合AI处理。不过,GPU最初是为处理图形而生,我们要专门设计一个芯片来加速AI,才能得到更加显著的提升。从CPU到FPGA或GPU,经过了一个数量级的改进,定制AI加速器能再加一个数量级改进。”

高通进军云计算领域之前,它的主要竞争对手华为发布了业界最高性能Arm架构处理器鲲鹏920。在SPECint(一个由12个程序组成的基准测试套件,旨在测试整数性能)中,该芯片的得分超过了930分,比行业基准高出将近25%,而功耗比行业现有厂商提供的产品低30%。

高通的竞争对手可不止华为一个。

今年1月,在拉斯维加斯举行的消费电子展上,英特尔详细介绍了即将推出的Nervana神经网络处理器(NNP-I)。据报道,该处理器的AI训练性能将达到竞争对手显卡的10倍。谷歌去年推出了专用推理芯片Edge TPU。阿里巴巴去年12月宣布,计划在今年下半年推出首款自主研发的AI推理芯片。

在FPGA方面,亚马逊最近推出了自己的AI云加速芯片,名为AWS Inferentia。微软也在Project Brainwave中展示了类似的产品。今年3月,Facebook发布了用于AI推理的服务器芯片Kings Canyon。本月,英特尔宣布推出Agilex系列芯片,优化AI和大数据工作。

但高通相信,Cloud AI 100的性能优势可以让它在深度学习芯片市场上占据上风。预计到2025年,该市场规模将达到6630万美元。

“很多公司都把网络硬件放在边缘,形成一个内容传输网络,这个网络可以完成云游戏或是AI处理等不同类型的任务。这个趋势非常关键。因为这样一来,无论是终端用户的输入技术,还是云端,都会有高通的参与。”

高通还有另一个潜在优势——生态系统的支持。

去年11月,高通承诺向一家专注于edge AI和on-device AI的初创基金提供1亿美元,资金将用于自动驾驶汽车、机器人、计算机视觉和物联网等领域。去年5月,它与微软合作开发了一个vision AI工具包,辅助嵌入在系统芯片中的AI加速器。

“就市场规模而言,推理正在催生一个大型芯片市场,”Kressin表示,“随着时间的推移,我们预计,在2018年至2025年期间,市场规模大约会扩大10倍。我们非常有信心,高通在产品性能、AI处理、数据处理等方面,将会成为强大的领导者。”

雷锋网注:本文编译自

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
【官网】万兴喵影2024

万兴喵影(原名万兴神剪手/喵影工厂)是AIGC软件A股上市公司万兴科技旗下的一款专业视频剪辑软件。这款视频制作软件不仅支持Windows、macOS、Android以及iOS系统多端使用,电影视频制作,影视特效添加更是信手拈来,更有海量视频制作素材随取随用,更多AI视频剪辑工具助力高效视频制作。

抗倍特板,康贝特板,医用抗倍特板,抗倍特板品牌,抗倍特板生产厂家

抗倍特板厂家主要经营抗倍特板,康贝特板,抗倍特隔断,卫生间隔断、抗倍特墙板、抗倍特树脂板、HPL防火板、洁净板、抗菌板、冰火板等室内外装饰板材,厂家直销,数千种颜色、可来样定制,详情点击

浙江亚磊型钢冷拔有限公司

浙江亚磊型钢冷拔有限公司主营产品:冷拉型钢、冷拔型钢、圆钢、方钢、扁钢、六角钢、异型钢等,适用材质有普碳钢、优碳钢、合结钢、弹簧钢、轴承钢和其他特殊钢,产品广泛用于机械、车辆、船舶、环保、五金、标准件、滚动功能部件、工艺品等行业,畅销国内外。

答案库

答案库收录了公务员考试,建筑工程,IT认证,资格考试,会计从业,医药考试,外贸考试,学历考试等各类试题答案以及一些热门的问答

湖北省希铭科技有限公司

产品包括:汽车电瓶,汽车配件,汽车音响。公司的研发人员在吸收世界先进技术的基础上将科学技术知识应用的实际设计中,生产出了极具竞争力的产品。公司秉承顾客至上,锐意进取的经营理念,坚持客户第一的原则为广大客户提供优质的服务。在经济全球化的今天,将不断提升自我,打造完美诚信企业。 公司始终坚持科技领先,

上海航慈国际贸易有限公司Nautical

首页-上海航慈国际贸易有限公司_Nautical

不锈钢弯头

浙江龙星法兰管件是一家专业生产不锈钢弯头、不锈钢三通(法兰、翻边)、冲压大小头、冲压弯头、不锈钢管件的企业,精工铸造,质量可靠。欢迎来电咨询。

昆山广告印刷专业提供昆山彩页印刷,昆山画册印刷,昆山样本印刷,昆山说明书印刷,昆山表单印刷等服务,是您出色的印刷合作伙伴

昆山友诚印刷是一家专业彩页样本画册,昆山不干胶标签,表单,无碳联单,说明书,环保纸杯,信封,公司信笺,手提纸袋,无纺布袋,宣传单页,彩色名片等纸制品印刷电话:18051891266

全局底部横幅