腾讯云助力MiniMax打造大模型 规模超千卡 可用性达99.9% (腾讯云助力短剧出海)

文章编号:38658 资讯动态 2024-12-01 大模型创业腾讯云MiniMAX
腾讯云

高效灵活的云上基础设施,是大模型创业的必要底座。

7月20日,腾讯云对外披露助力MiniMax研发大模型的最新进展。目前,腾讯云长期支持MiniMax的千卡级任务稳定运行在腾讯云上,可用性达99.9%。

MiniMax是一家专注通用大模型研发的独角兽创业企业,拥有文本、语音、视觉多种模态融合的通用大模型引擎能力。研发过程中,每日亿级的调用次数,也带来了对算力的海量需求。

从2022年6月起,基于算力集群、云原生、大数据、安全等产品能力,腾讯云为MiniMax搭建了从资源层、数据层到业务层的云架构。

在资源层,高性能、高弹性和高稳定的算力需要借助专业的云服务。腾讯云协同优化单机算力、网络架构和存储性能,为MiniMax构建起大规模、分布式的HCC高性能计算集群。

借助腾讯自研的星脉网络,HCC集群将通信损耗降到更低;CFS Turbo、COS+GooseFS高性能存储,使得上千个计算节点能同时高速读取训练数据。

同时,利用腾讯云容器服务TKE,MiniMax实现了对不同规格云服务器的统一管理和调度,各种类型的应用和服务得以部署在同一套基础设施上,资源实现了高效整合,资源利用率大幅提升;

基于云原生的管理方式,支撑7*24小时的全局监控视角,支持编排、框架、实例等多层级的指标监控。一旦触发故障,能够在5分钟内恢复任务、10分钟内恢复基础设施,无需人工干预完成,能够最大化保障任务连续进行。

根据实测数据,在云底座的支撑下,激增的并发计算量;基于云原生支撑,MiniMax整体用云成本降低20%。

可用性达99.9%

在数据层,MiniMax在大数据分析方面也有大量的任务需求。

通过腾讯云的数据集成DataInlong、流计算Oceanus、数据湖计算DLC等云原生大数据产品提供的数据处理能力,对大量数据做实时或离线分析,满足了MiniMax在各个阶段的数据分析需求,实现数据的快速灵活部署。以容器化的方式使用大数据组件,使得模型验证、推理等任务得以按计划推进。

此外,大模型研发过程中,MiniMax对云上资产安全、Web业务运营风险、DDoS攻击防护等高度关注。

通过引入腾讯云的防火墙、WAF、主机安全、漏洞扫描、数据加密、iOA零信任安全管理等一系列安全产品,MiniMax实现了对云上资产的全方位保护,确保业务的稳定运行和数据的安全性。

业务上云后,基于海量、弹性的算力支撑和大量改进调优,MiniMax的大模型研发得以加速。

MiniMax业务副总裁魏伟表示:“成熟的云基础设施,既满足了业务弹性与稳定性的需要,又提升了研发效率。MiniMax将进一步扩大用云规模, 与腾讯云加速训练、推理等更多业务场景的云上落地,共同打造面向大模型的云上基础设施。相信未来,云计算会为AIGC带来更多可能。”

在算力集群、星脉网络、向量数据库之外,腾讯云还推出了涵盖模型预训练、模型精调、智能应用开发的一站式行业大模型解决方案,助力企业快速搭建专属模型。

未来,腾讯云将继续通过软硬一体的方式,持续加速全社会云上创新。

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
百方网

百方网是电工电气行业专业的B2B电子商务电气网站,是为电气企业提供电气产品,电气资讯,电气采购,电气供应,电气展会,电气样本,电气论坛,电气人才等商务服务的电气行业综合服务平台。

珠海飞创智能科技有限公司

珠海飞创智能科技有限公司,简称“珠海飞创”,座落于有“百岛之市”“浪漫之城”美称的广东省珠海市。是一家致力于伟迪捷标识设备代理、软件开发、系统集成、自动化设备研发、激光焊接

家电故障代码大全

007维修资讯网为朋友们收集各种家电显示的故障代码包含的详细内容,也整理一些常用解决方法与大家一起分享争取可以自己动手解决

淘米电商

【淘米电商】是一家专业的微信小程序外包开发公司,专注为企业提供微信小程序开发,小程序APP定制服务,提供微信小程序开发、制作、定制等优质的微信小程序平台指南资源。

吉粮资产

吉林粮食资产管理有限公司为吉林省国有资产管理委员会所属一级出资企业,拥有6户经全资企业和3户参股、控股企业,企业国企的信誉、政策、资金和人才优势,而且以建设全省一流的现代农业运营服务商为发展目标,我们会不断努力为吉林省乃至全国的农业发展做出积极贡献!

维泰361酒店加盟,度假酒店加盟,休闲度假酒店加盟网

维泰361度假拥有十余年度假酒店领域运营的智慧,能够有效盘活闲置度假酒店,提升单体度假酒店综合竞争力;拥有上万的注册会员,能给合作酒店带来稳定客源,合作咨询:400-6191-361

唐山市心理咨询

唐山市心灵花园咨询中心,致力于为您提供最专业,最贴心的心理咨询服务。我们的服务范围包括,催眠治疗及应用,自我潜能开发,身心灵成长,心理健康测评,婚恋家庭指导,亲子关系咨询,性心理咨询,专业减压,深度放松及心灵创伤疗愈。

快米

百城人才网专注于百城的人才招聘网站,提供百城人才网招聘信息以及求职信息,打造百城地区具有影响力的网上人才市场,及时高效地为企业和人才服务。

宣威水漆

美国宣威.威廉姆斯化工集团有限公司总部设在美国俄亥俄州,是全球最大的专业涂料公司之一,在涂料生产和销售领域处于国际领先地位,多年名列美国涂料销售排行榜榜首。

路由器大全

欢迎来到路由器大全,我们提供最全面、最实用的路由器设置教程和wifi上网优化指南,帮助您快速解决路由器相关问题,提升网络体验。让您尽享高速上网的便捷与舒适。

全局底部横幅