性能新突破!媲美国际水准!国产千卡智算集群助力国产大模型训推 (性能()())

文章编号:36105 资讯动态 2024-11-30 智谱AI大模型摩尔线程
性能

以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量,随着对算力需求的日益高涨,人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。

2024年5月,摩尔线程与智谱AI开展了新一轮GPU 大模型适配及性能测试,包括大模型推理以及基于夸娥(KUAE)千卡智算集群的大模型预训练。测试用相关大模型来自智谱AI基座大模型及其开源版本

测试结果表明,在推理方面,摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090,在全部测试用例中优于RTX 3090,在多batch下优于RTX 4090;在训练方面,摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内,夸娥千卡智算集群性能扩展系数超过90%,模型算力利用率(MFU)与A100集群相当。

智谱AI致力于打造新一代认知智能大模型,专注于做大模型的中国创新。早在2022年8月,智谱AI开源了GLM-130B模型,2023 年,智谱 AI 推出千亿基座对话模型ChatGLM,开源版本的 ChatGLM-6B 让大模型开发者的本地微调和部署成为可能,在开源社区受到广泛欢迎。从自主开发的原创GLM预训练框架搭建之初,智谱AI就十分注意算力利用率问题。通过国产算力适配,智谱AI已支持10余种国产硬件生态,努力推动建设大模型软硬件生态和与国产芯片企业的联合创新与升级。

摩尔线程出色的测试结果对于更好建设中国大模型产品技术生态具有重要意义。

摩尔线程

技术自主新突破: 摩尔线程千卡智算集群成功应用ChatGLM预训练,标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发,有助于增强技术自主性,保障信息安全。大模型训练与推理将能够在全国产可控的算力底座上运行,在满足信息安全的前提下服务于千行百业,成为发展AI+新质生产力的核心力量。

助力打破算力瓶颈: Scaling lAWS(尺度定律)已经预示了AGI技术发展对算力日益增长的需求规律,同时也表明有限的算力供应可能成为制约大模型发展的关键瓶颈。本次测试结果显示,国产GPU算力底座有能力助力中国人工智能技术发展。摩尔线程作为国产GPU的代表,将助力提高大模型迭代速度和自研水平,助推中国大模型更好发展。

开拓创新空间: 算法、算力、数据是AGI技术的核心要素,摩尔线程与智谱AI卓有成效的适配与测试合作,有利于推动实现软硬件的深度融合与协同创新,有利于助力中国大模型实现更好发展。

降低运营成本: 摩尔线程凭借自研国产全功能GPU,致力于构建先进的AGI算力底座,不仅能够兼容适配全球主流ai软件生态,节约软件迁移成本,而且在单位算力总体拥有成本上拥有较为明显优势,能够有效降低大模型产品研发成本。

智谱AI硬件适配与测试负责人表示:“摩尔线程夸娥千卡智算集群在计算精度和稳定性等方面的表现令人印象深刻,智谱AI将与包括摩尔线程在内的大模型产业生态合作伙伴携手,共同推动大模型产业生态繁荣发展。”

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
电话Whois反查

根据已知域名WHOIS中的联系电话来反查得出其它域名WHOIS中联系电话与此相同的域名列表;

永康市新维企业管理咨询有限公司

永康市新维企业管理咨询有限公司,主营CCC认证,CE认证,IS09001认证,TS16949认证,产品质检报告等,致力于为广大客户提供优质的服务。电话:13705899556。

傍晚网

傍晚网,通过整合行业逾百位证券交易所资深顾问、上市公司高管、创投企业家优质资源。专注企业管理培训课程、上市股权辅导、创投交流,致力于成为企业网络培训及网课分销平台.

三门蓝沁儿童康复中心/自闭症儿童康复训练,无语言开发,发育迟缓,感统训练,

三门县蓝沁儿童康复中心创办于2021年3月,是“浙江省市级残疾儿童定点康复机构”。机构占地面积1200多平方米。目前中心拥有二层独立教学楼,配有个训、感统、音乐、游戏、个系、多媒体等功能教室。室外活动面积约450平方米。 机构一线老师均具备大专及以上教育相关专业学历,且具备本行业多项资质证书,为学生提供全方位综合课程,帮助孩子提升认知、语言、社交、运动、精细、生活、自理、学业等技能,帮助更多的孩子顺利融入校园、融入社会。至今已帮助部分学生成功进入幼儿园、小学等普校,受到家长的一致好评!

压滤机,铸铁压滤机,不锈钢压滤机,铝合金压滤机,板框式压滤机,厢式压滤机

本公司是国内压滤机专业制造商,产品分板框式压滤机,厢式压滤机,机械式压滤机等,板框材质有铸铁,铝合金,不锈钢等.产品被广泛用于洗煤,石油,化工,制药,冶金,轻工,食品,纺织和污水处理等行业.销售热线:1507647447。

保温网·保温材料网

保温材料网作为中国保温材料行业的综合门户网站,主要为保温材料企业提供关于保温材料、外墙保温、管道保温、建筑节能、保温建材和建筑保温等方面为主体的资讯及供求平台,汇集了大量保温材料、外墙保温、管道保温、建筑节能、保温建材、建筑保温等方面的产品信息,是保温材料行业综合网络推广平台。

廊坊出租盘扣,盘扣脚手架租赁

廊坊开发区鸿鑫租赁站从事出租盘扣,出租盘扣脚手架,盘扣租赁,盘扣脚手架租赁,我们拥有丰富的施工经验和团队,为客户提供安全、优良的租赁服务。我们秉承诚信经营的原则,为您提供优良的盘扣脚手架租赁服务,让您在施工过程中更加安心、放心。欢迎来电咨询!

智能手表定制

人员精准及实时定位系统解决方案,专用智能手表整机方案,人员行为数据及健康数据的采集,传输及分析解决方案,形成了多种基于可穿戴物联网技术的健康与定位系统解决方案,包括健康监测、高精度定位系统、可视化定位系统、蓝牙AOA定位网关、行业智能手表、老人智能手表、学生智能手表、室内定位手表、司法防拆手表、运动训练手表及智能手表定制等。

橡塑保温胶水

广州宝知路环保材料有限公司是以“专业保温胶水/保温托码”研发、生产的保温胶水厂家、托码生产厂家。主营::橡塑保温胶水,耐高温阻燃防火胶,PEF保温胶水,酚醛胶水,橡塑托码,PE托码等环保氯丁胶胶粘剂产品.旗下品牌包括:太克&太客、金力士、泰乐斯、太堡以及宝知路等品牌。

热弯玻璃/超白玻璃/钢化玻璃/夹胶玻璃/夹丝玻璃/有色玻璃/灌胶玻璃/烤漆玻璃/打沙玻璃/玉沙玻璃/雕刻玻璃/南京天圆玻璃制品有限公司

南京天圆玻璃制品有限公司是一家集热弯、钢化、夹胶、灌胶、烤漆、打沙、玉沙、雕刻等加工工艺于一身的玻璃深加工企业。对外批发零售热弯玻璃、超白玻璃、柜台玻璃、夹丝玻璃、有色玻璃、有色镜子、钢化玻璃、普通玻璃。我厂拥有先进的直线机,倒角机,车边机,异形机,打孔机,和先进的热弯加工炉,拥有专业的加工团队,常年供应手机柜台,珠宝柜台玻璃,严把质量关,诚信经营,真诚的希望能成为你长期的合作伙伴!!!公司服务于道具、展览展示、广告设计、建筑装潢、工程安装、鱼缸设计于施工等各种玻璃行业。公司秉承诚信做人,认真做事的理念追求性价比的产品,为我们的合作伙伴提供完善的服务。为您的产品添光加彩,为您的事业保驾护航。

全局底部横幅