腾讯云AI超级底座新升级 训练效率提升幅度达到3倍 (腾讯云 ai)

文章编号:40849 资讯动态 2024-12-03 腾讯云AI超级底座AI大模型

大模型推动AI进入新纪元,对计算、存储、网络、数据检索及调度容错等方面提出了更高要求。在9月7日举行的2023腾讯全球数字生态大会“AI超级底座专场”上,腾讯云介绍异构计算全新产品矩阵“AI超级底座”及其新能力。

腾讯云副总裁王亚晨在开场致辞中表示,AI大模型就像是一场F1比赛,腾讯云专门设计了星脉高性能算力网络“赛道”,并自研了TiTa和TCCL网络协议作为“车载导航和道路控制系统”,共同让“HCC GPU服务器”这台马力强大的F1赛车发挥最大的算力性能,助力客户在AI大模型的竞争中遥遥领先。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

腾讯云全新异构计算产品矩阵“AI超级底座”亮相

随着AI应用走向全领域,模型参数发展到千亿、万亿级规模,对云计算的基础设施提出了全新的挑战。腾讯云异构计算产品总监宋丹丹表示,AI 超级底座可以从底层算力基础设施到上层应用对接提供整套完整服务,方便模型生产厂商和AI开发者快速开发、验证。

腾讯云AI超级底座具有海量算力、极致性能、灵活取用等优势,结合了腾讯云的海量多元算力、高性能网络和存储集群,并以云原生产品作为入口供开发者灵活调用。在软硬结合层,腾讯云还可以通过GPU虚拟化、容器等,以及高性能应用服务HAI给开发者提供简易的开发体验,并让底层的高性能算力无损直达开发者,真正实现“高性能易上手”。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

基础设施再进化,取之AI,赋能于AI

作为AIGC时代的重要核心,大模型需要庞大的算力来支撑。腾讯云高性能计算集群产品 HCC采用腾讯云星星海自研服务器,提供高性能、高带宽和低延迟的集群算力。目前,HCC已全面升级至2.0,性能、效率和稳定性实现全面提升,相比上代训练效率提升幅度达到3倍,将几十天的训练周期缩短至一周内。

此外,腾讯云还推出了性价比更高的冷存储产品、COS加速器,以及数据湖多级加速体系,可面向AIGC等多种业务场景提供多级缓存加速方案,进一步提升训练效率并降低资源成本。腾讯云存储产品总监崔剑指出,腾讯云通过提供近存储侧的一站式数据处理智能平台,为以AIGC为代表的业务提供内容处理、内容审核等服务,帮助用户挖掘数据价值,从而实现了“取之AI,助力AI”。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

腾讯云公网产品负责人俞圆圆指出,对于参数达到千亿、万亿级别的 AI 大模型来说,大带宽、低延时、广覆盖、少抖动的网络是实现高效训练的关键因素之一。腾讯云星脉高性能计算网络具备业界最高的3.2T 通信带宽,可为AI大模型的训练提供高速公路级别的网络通道。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

软硬件结合,提升极致性能

底层基础设施以外, AI大模型的落地也需要上层软件的支持。腾讯云异构计算AI研发专家工程师叶帆表示,随着集群规模的增加,无论训练还是推理对硬件性能的利用均呈现指数难度上升,需要精细的软硬件协同来提升性能。腾讯云的Taco-LLM开箱即用性能方案基于Continuous Batching、预测解码、模型量化等技术,提高吞吐的同时,也降低了客户端延迟,并全面兼容Hugging face主流大语言模型,可保障复杂多变的公有云应用场景。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

针对GPU算力资源浪费的问题,腾讯云TencentOS高级产品架构师杜震表示,qGPU容器产品可以支持多个容器共享 GPU 卡,具备了各容器间算力、显存的精细隔离和灵活配置,将GPU的利用率提升至极致,最终帮助客户大幅节约GPU资源成本。同时,腾讯云还基于 RUE 内核全场景混部,统一调度分配 CPU、IO、网络、内存等资源,提升资源利用率,进一步降低运营成本。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

向量数据库加速企业AI化进程

在大模型时代,通过向量数据库将数据高效接入AI大模型,并深度挖掘数据价值,成为最重要的事。

腾讯云数据库产品副总经理罗云指出,腾讯云向量数据库同时具备的性能和规模优势,支持高达10亿级的向量检索规模,延迟则控制在毫秒级,比传统单机插件式数据库检索规模提升了10倍。同时,腾讯云向量数据库还具备百万级每秒查询(QPS)的峰值能力,经腾讯内部海量场景实践,数据接入 AI 的效率比传统方案提升10倍,运行稳定性高达99.99%。

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

从底层到上层,腾讯云AI超级底座通过大模型高性能计算集群、计算网络以及向量数据库等大模型生态工具,助力AI大模型应用落地。

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
百合网

百合网--实名婚恋。免费通信,谈情说爱不再为钱所困。1.2亿会员为爱而来,给你1.2亿的爱情火种。心理学专业恋爱类型测试帮你找到对的TA。

2345头条资讯

2345网址导航为您提供今日头条、国内新闻、国际新闻、社会新闻、军事新闻、娱乐新闻、体育新闻、健康新闻、财经新闻、女性新闻等新闻资讯

“jia.com”的百度权重查询结果

查询百度权重和百度的关键字排名,查询360权重和360的关键字排名

天工网官网

跑项目上天工网工程帮,天工网致力于工程销售的研究,赋能销售快速获得有效的工程业务线索,提供全国在建项目和拟在建工程信息,线下人脉对接活动,合作交流群等服务,依托互联网引领行业新变革!

亿动服务器推荐导航

亿动服务器推荐导航,是亿动科技工作室旗下针对服务器、主机、vps等相关内容进行测评推荐,自动发布网络搜集网址及手动发布及推荐优秀网址文章

鼎信汇金

买基金找鼎信汇金,网上买基金高效安全;主动管理系列私募基金,专业团队勤勉尽责。提供优质、全面的投资咨询及基金销售服务。

深圳天威宽带

深圳天威宽带服务电话4008233020,天威有线宽频资费标准:600M带宽1100元/年,关注微信公众号:m96355com,名称:天威宽带,可获取更多信息。在线申请www.96355.com更快捷,而且享受一次性预付免初装费的优惠活动。

深圳广告公司

深圳鼎禾广告公司服务上千家企业,10年深圳户外广告投放经验,专注一站式户外广告全案服务.涉及深圳地铁广告,公交车广告,候车亭广告,社区广告,led大屏广告媒体投放,在深圳投户外广告找鼎禾广告公司就好。

爱搞机

爱搞机是智能硬件玩家的聚合地,这里有最新的智能硬件评测和视频、丰富的智能硬件试用以及全面的产品库信息。玩家们可以在爱搞机找到志同道合的朋友,这里也会帮助你成为玩机达人,给予深入体验各类产品和参加各类搞机活动的机会。

AllValue

AllValue是有赞针对海外商家推出的一款线上开店软件,帮助全球华人商家开展社交电商和本地电商业务、搭建国际版微信小程序、移动店铺、社交营销与分销联盟,提供完善的同城配送支持,是华人商家开展电商生意的绝佳选择。

一个框导航网

一个框导航网,一个非常棒的私人云收藏夹网站!高价值实用网址、优质网站收录平台!收录了各种五花八门网址于一个站,整合了多个常用搜索于一个框,集便捷、简洁、高效、实用于一身,一个框的mini主页还可以设置为浏览器主页,这样一个功能丰富的导航网站:海纳百川,网罗一框!

全局底部横幅