释放多元算力价值 计算系统创新是关键 王恩东院士 (多元算法)

王恩东:释放多元算力价值,计算系统创新是关键

人工智能从5、6年前的 “黑科技”变成了今天的“热科技”,背后离不开算力支撑能力的巨大飞跃。2020年以GPU为代表的AI加速芯片所交付的计算力总和已经超过了通用CPU,预计到2025年,加速芯片所提供的计算力可能超过80%。可以说, 人工智能的规模化发展,算力已经成为决定性的力量,智慧计算是智慧时代的核心生产力。

“人工智能带来指数级增长的算力需求,计算产业正面临着多元化、巨量化、生态离散化交织的趋势与挑战。一方面多样化的智能场景需要多元化的算力,巨量化的模型、数据和应用规模需要巨量的算力,算力已经成为人工智能继续发展的重中之重;另一方面从芯片到算力的转化依然存在巨大鸿沟,多元算力价值并未得到充分释放。如何快速完成多元芯片到计算系统的创新,已经成为推动人工智能产业发展的关键环节。”在10月16日举行的2021人工智能计算大会(AICC2021)上,中国工程院院士、浪潮首席科学家 王恩东 阐释了计算系统创新在计算到智算转变的产业新格局下的重大意义。

多元芯片到算力转化,计算系统创新是关键

随着人工智能在算法领域的不断突破,不同数值精度带来了跨度更大的计算类型,对计算芯片指令集、架构的要求更加细分。图灵奖获得者 John Hennessy和 David Patterson共同发表的 计算机架构的新黄金时代》 中提出:当摩尔定律不再适用,一种更加以硬件为中心的DSA(Domain Specific ARChitecture)架构设计会成为主导,这种设计的核心在于针对特定问题或特定领域来定义计算架构。 基于DSA思想设计的AI芯片,在特定AI工作负载上表现出远超通用芯片的处理能力,大大推动了AI芯片的多元化发展。

芯片的多元化为产业AI化的加速提供了重要的产业基础和更加丰富的选择。但是, 芯片从造出来到大规模用起来,还隔着一个巨大的产业鸿沟。 一方面,算力的供给需要构建算力平台,需要解决架构设计、核心部件、高速互联、散热设计等一系列问题。以一台AI服务器研制为例,整个系统需要经过30 多个开发流程,使用150 多种加工制造工艺,对280多个关键过程控制点的质量进行严格把控,并且还要实现与算法框架和AI应用的优化和适配等问题;另一方面,面对大规模AI算力部署,AI算力平台建设又面临高功耗、高电流密度、高总线速率、高系统复杂度的新问题。

“我们能造出性能强大的火箭发动机,但要想造出安全、高性能的运载火箭,还要在循环、控制、结构等很多领域做大量的工作。芯片到计算系统同样如此,需要完成体系结构、信号完整性、散热、可靠性等大量系统性设计工作。” 王恩东院士 用生动形象的比喻, 诠释了芯片到算力转化过程中计算系统创新的价值所在。

以巨量模型为代表的巨量化是AI发展的重大趋势

“人工智能如何发展出像人类具备逻辑、意识和推理的认知能力,是人工智能研究一直在探索的方向。目前来看,通过大规模数据训练超大参数量的巨量模型,被认为是非常有希望实现通用人工智能的一个重要方向。” 王恩东院士 认为, 随着巨量模型的兴起,巨量化已成为未来人工智能发展非常重要的一个趋势。

目前,全球知名的AI领先公司在巨量模型上都予以重兵投入,谷歌、微软、英伟达、浪潮、智源研究院、百度、阿里等公司相继推出了各自的巨量模型。

巨量化的一个核心特征就是模型参数多、训练数据量大。以浪潮人工智能研究院开发的全球最大规模的中文AI巨量模型“源1.0”为例,其参数量高达2457亿,训练数据集规模达到5000GB。相比GPT3模型的1750亿参数量和570GB训练数据集,“源1.0”的参数规模增加了40%,训练数据集规模增加近10倍。

此外,巨量化也表现在模型应用规模大。互联网头部公司的AI开放平台已经吸引了超百万的AI开发者,这些AI开放平台每天承载着数万亿次的调用量,数百万小时的语音识别,超过百亿张图像识别,超过万亿句自然语言理解等等。如此巨量的调用对算力中心的应用支撑能力带来了极大的挑战。

生态离散化制约AI上水平、上规模、上台阶

“很多人会有这样的困惑,人工智能那么好,但是怎么跟我的业务、应用场景结合,想通过AI技术做智能化转型,但是发现没人懂算法,懂模型,也缺少好用的AI开发平台。同时,算法模型那么多,如何找到不同算法在应用中的最优组合?懂这些的人,往往都集中在科研机构或者头部公司。这些地方集中了最优秀的AI人才,但缺少对传统行业的需求场景、业务规律的深入理解。” 王恩东院士 对当前AI从技术到应用面临的困局做了形象的概括。

来自埃森哲的一份调研报告显示, 70%以上有技术的研究机构、科技公司缺需求场景、缺领域知识和数据,70%以上的行业用户缺技术人才、缺AI平台和实践能力。

生态离散化也与AI芯片多元化的发展趋势关系密切。 目前,AI芯片架构五花八门,指令集不同,无法兼容,而面向芯片的编程库又跟芯片绑定,灵活性差。小公司只做了其中一个环节,这造成生态的纵向不通;大公司希望构建封闭的系统,这造成了生态的横向不通。

认为,目前人工智能的技术链条、产业链条是脱节的,生态离散化已成为制约人工智能技术上水平、应用上规模、产业上台阶的瓶颈所在。

多元化、巨量化、生态化给整个计算产业带来的挑战是空前 “要想释放多元算力价值、促进人工智能创新,一是要重视智算系统的创新,加大人工智能新型基础设施建设,把从技术到应用的链条设计好,从体系结构、芯片设计、系统设计、系统软件、开发环境等各个领域形成既分工明确又协同创新的局面;二是要加快推动开放标准建设,通过统一的、规范的标准,将多元化算力转变为可调度的资源,让算力好用、易用。” 王恩东院士 强调说。

版权文章,未经授权禁止转载。详情见 转载须知 。

王恩东:释放多元算力价值,计算系统创新是关键

全局中部横幅
欢迎登录/注册松松云平台

注册/登录松松营销平台,您可以同时享受松松商城、松松软文、松松主机、松松任务派单等网络推广服务,登陆本平台您可以认识更多同行和潜在客户.

胖鲸

独立会员制营销创新趋势研究智库

2024年CFA报名指南

高顿CFA报名指南提供2024年CFA报名指南,2024年CFA考试指南以及CFA考试新动态和考情介绍。

温州工作服定做

温州明克服饰有限公司服务电话:13587452625,主要从事:工作服、幼儿园园服、学校校服、保安服、行政服、酒店制服、护士服装、商务服装、休闲服装等定做,公司秉承“保质保量,价格优惠,同质比价,同价比质”经营理念。

保定理工学院

保定理工学院,前身为中国地质大学长城学院,是2005年4月,经国家教育部批准设立,由中国地质大学(北京)与保定贺阳教育投资有限公司合作举办的一所全日制普通本科独立学院。2018年,转设更名为保定理工学院。

威胁情报生态联盟

网络安全威胁情报生态联盟,CybersecurityEcologyAllianceofThreatIntelligence

盈科外服

盈科外服总部位于上海,在中国92个主要城市拥有分支机构,并在包括美国、英国、德国、法国、迪拜、新加坡、香港、印度、泰国、印尼、越南等世界各地拥有超过150个分支机构与服务网点。盈科外服的客户不仅包括行业巨头、跨国公司,还包括中小企业、政府机构以及各类商协会。 依托盈科全球体系的优质资源和广阔平台,盈科外服为企业跨境投资经营提供“投资咨询、调研评估、市场准入、公司设立、资金出境、投资架构、全球派遣、薪酬外包、跨境财税、离岸操作”等全方位、一站式服务。 我们也为企业提供包括跨境电商运营、供应链金融解决方案、国际品牌管理与授权、国际知识产权、企业投融资与上市、全球商业投资与工程项目服务、国际合规咨询与认证、全球商业顾问等一站式企业服务。 覆盖全球的服务网络,极为广泛的中外客户资源,及高度国际化的专业团队,使得盈科外服在企业咨询服务领域拥有无可比拟的优势。 盈科外服,打造中国领先的全球化、全领域、一站式的企业咨询服务平台。

法式冷冻薯条

遵化市遵美味食品有限公司是一家从事产品深加工企业,河北省唐山市重点龙头企业。公司主要经营真空低温油浴(VF)脱水果蔬(果蔬脆片),包括:薯条、香菇脆片、各类水果蔬菜脆片;速冻薯条、速冻香菇等各种蔬菜水果是集产、学、研、加、销为一体的农业高新技术企业。

增值电信业务经营许可证企业办理申请查询

通信咨询认证网提供增值电信业务经营许可证(ICP许可证,SP许可证,EDI许可证,IDC许可证,ISP许可证,呼叫中心许可证,因特网数据中心,因特网接入)查询认证服务,引领互联网行业规范化发展

科研废物导航

科研废物导航(yanweb.top),沉淀最具价值的科研学术链接,全站无商业推广,简约而不简单。

陇州BBS

陇州BBS,陇县-陇县同城信息网络平台,收集整理转载网络关于陇县的相关资讯和报道,了解陇县的最新资讯,就来陇州BBS-longzhoubbs.com

全局底部横幅