单个Pod性能是世界第一超算的两倍 里程碑式Google TPU v4重磅发布! (pod单是什么意思)

文章编号:44828 资讯动态 2024-12-09 TPUgoogle

Google I/O开发者大会去年因为疫情而取消,今年采取线上形式强势回归。在没有开发者在场的Google园区内,Google CEO桑达尔·皮查伊(Sundar Pichai)宣布推出多项全新技术,除了能够帮助用户实现“空间瞬移”的全息视频聊天技术Project Starling让人耳目一新,还有最新一代AI芯片TPU v4。

“这是我们在Google上部署的最快的系统,对我们来说是一个具有历史意义的里程碑。”皮查伊这样介绍到。

里程碑式Google TPU v4重磅发布! 单个Pod性能是世界第一超算的两倍

最强TPU,速度提升2倍,性能提升10倍

Google官方介绍,在相同的64芯片规模下,不考虑软件带来的改善,TPU v4相较于上一代TPU v3性能平均提升2.7倍。

在实际应用中,TPU v4主要与Pod相连发挥作用,每一个TPU v4 Pod中有4096个TPU v4单芯片,得益于其独特的互连技术,能够将数百个独立的处理器转变为一个系统,互连带宽在规模上是其他任何网络技术的10倍,每一个TPU v4 Pod就能达到1 exaFlOP级的算力,实现每秒10的18次方浮点运算。这甚至是全球最快的超级计算机“富岳”的两倍性能。

“如果现在有1千万人同时使用笔记本电脑,所有这些计算机累加的计算能力,刚好就能够达到1 exaFLOP的算力。而之前要达到1 exaFLOP,可能需要专门定制一个超级计算机。”皮查伊如是说。

今年的MLPerf结果表明,GoogleTPU v4的实力不容小觑,在使用ImageNet数据集的图像分类训练测试(准确度至少75.90%),256 个TPU v4在1.82分钟内完成了这一任务,这几乎与768个NVIDia A100图形卡、192个AMD Epyc 7742内核(1.06分钟)、512个华为AI优化的Ascend910芯片以及128个Intel Xeon Platinum 8168内核(1.56分钟)组合在一起的速度一样快。

当负责在大型维基百科语料库上训练基于Transform的阅读理解BERT模型时,TPU v4的得分也很高。使用256个TPU v4进行训练需要1.82分钟,比使用4096 TPU v3进行训练所需的0.39分钟要慢1分多钟。同时,如果想要使用Nvidia的硬件达到0.81分钟的训练时间,需要2048张A100卡和512个AMD Epyc 7742 CPU内核。

Google同样在I/O大会上展示了能够用到TPU v4的具体AI实例,包括能够同时处理网页、图像等多种数据的MUM模型(Multitask Unified Model,多任务统一模型)和专为对话打造的LaMDA都是能够用到TPU v4的场景模型,前者比阅读理解模型BERT强1000倍,适合赋能搜索引擎帮助用户更加高效地得到自己想要的信息,后者则可以与人类进行不间断的对话交流。

这一并不向外出售的TPU,很快将在被部署在Google的数据中心,且90%左右的TPU v4 Pod都将使用绿的能源。 另外,Google也表示,将在今年晚些时候开放给Google Cloud的客户。

Google最早于2016年宣布首款内部定制的AI芯片,区别于训练和部署AI模型的最常见的组合架构,即CPU和GPU组合,第一代TPU在那场世界著名的人机围棋大战助力AlphaGo打败李世石“一战成名”,宣告并不是只有GPU才能做训练和推理。

Google第一代TPU采用28nm工艺制程,功耗大约40w,仅适用于深度学习推理,除了AlphaGo,也用在Google搜索、翻译等机器学习模型中。

2017年5月,Google发布了能够实现机器学习模型训练和推理的TPU v2,达到180TFLOPs浮点运算能力,同时内存带宽也得以提升,比同期推出的CPU AI工作负载提升30倍,比GPU AI工作负载提升15倍,被基于4块TPU v2的AlphaGo击败的世界围棋冠军柯洁最直观地感受了这一切。

2018年5月,Google又发布第三代TPU,性能是上一代TPU的两倍,实现420TFLOPs浮点运算,以及128GB的高带宽内存。

按照一年一次迭代更新的节奏,Google理应在2019年推出第四代TPU,不过这一年的I/O大会上,Google推出的是第二代和第三代TPU Pod,可以配置超过1000颗TPU,大大缩短了在进行复杂的模型训练时所需耗费的时间。

在AI芯片发展史上,无论是从片上内存上,还是从可编程能力来看,Google TPU都是不可多得的技术创新,打破GPU的“垄断”地位,且打开云端AI芯片的新竞争格局。

发展五年的Google TPU在今天依然保持着强劲的竞争力,未来的世界是什么样的?Google TPU已经告诉了我们一小部分答案。

要用硅光单芯片替代3000块TPU的AI初创公司吸引了比尔盖茨的投资

Google 祸不单行

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
真石漆搅拌机

信阳升华化工科技有限公司16年专注研发生产真石漆搅拌机,为客户提供一站式解决方案,主营:立式真石漆搅拌机、干粉搅拌机、腻子粉搅拌机、卧式真石漆搅拌机等,致力于帮助客户一站式解决真石漆问题,咨询电话:19603768669.

上海注册公司

上海鲁盘为企业提供专业的公司注册、资质代办、公司注销、代理记账、工商注册、会计做账、财税代理审计服务公司变更等服务。

台州云图电子商务有限责任公司

提供大量优质的在线工具服务,含各种类型在线使用工具,生活服务工具,电子商务工具,新闻咨询工具,人工智能工具,腾讯视频会员,优酷视频会员,影视会员充值等类型,平台提供定制功能,可按照用户需求定制专属工具,是一款专业的,优质的免费在线工具服务平台-台州云图电子商务有限责任公司

极援网道路救援

极援网道路救援为您提供附近24小时汽车拖车救援热线电话,汽车道路救援服务平台,可进行汽车搭电、拖车、汽车补胎换胎、汽车脱困救援、抛锚救援等道路救援服务

首页

游戏迷商城资讯平台——为您提供专业的游戏金币交易、账号交易、装备交易、道具交易、游戏租号、手游交易等买卖服务,丰富的绝地求生激活码、绝地求生账号等各类steam游戏交易服务一应俱全,账户交易资金全程央行托管,安全交易平台,使用放心!

手机游戏下载

手残党游戏网为用户整理提供免费的手机app下载和手机软件下载,还有丰富的苹果手机app,安卓手机app,安卓手游,苹果版手游等,让大家轻松下载安装喜欢的手机应用软件,当然也有各种详细的安卓手机游戏资讯、手机游戏攻略、手机app教程等等,帮助大家更快的找到实用价值的游戏攻略、最新的游戏资讯、实用的手机app使用方法。

【南宁心理咨询】南宁心理咨询专家大林

心翔心理机构,您身边的心理咨询专家,提供专业的心理咨询服务,是来访者、心理咨询师、心理机构首选的广西心理咨询连锁平台,十七年老品牌值得信赖,百万用户的选择!

豆豆婚庆资讯网

豆豆婚庆资讯网是一个专注于提供婚庆相关信息的网站。为您提供了丰富的婚宴酒店、婚礼服务、婚纱摄影知识。

星姓星工作室官网

欢迎访问星姓星工作室官方网站。

建业地产股份有限公司

建业地产控股有限公司,是香港建业住宅集团有限公司于1992年5月在国内创办的专注住宅产业开发的独资企业,公司具有国家房地产开发一级资质。公司定位为专业化领袖型区域品牌地产开发商。扎根中原15年,先后成功开发了金水花园、建业广场、建业城市花园、建业新天地·桂园、郑州建业·森林半岛、郑州联盟新城、建业置地广场及省内16个中心城市绿色家园系列、森林半岛系列等多个具有行业指向地位的高档商品住宅小区,开发销售商品房总面积逾300万平方米,共为5万余户家庭提供了住宅。公司还创立了省内首家客户关系组织建业会,建业物业首1111批通过ISO9000质量体系认证。目前,建业在“2007中国房地产百强企业名单”中位列第41位

外卖商城平台

微信+抖音双平台,同城生活服务O2O平台,外卖平台源码开发,支持小程序APPH5PC端抖音多种客户端,平台支持二开,功能包括外卖平台社区团购平台预约平台异业联盟平台营销裂变商城平台酒店预订等数十项功能

全局底部横幅