Trainium芯片 亚马逊自研3nm 能否成为英伟达之外的第二选择 (training)
Trainium是亚马逊云科技(AWS)专门为超过1000亿个参数模型的深度学习训练打造的机器学习芯片。在2024年 re:Invent大会上，AWS宣布Trainium2正式可用，其性能比第一代产品提升4倍，可以在极短的时间内训练基础模型和大语言模型。
AWS周二宣布，将推出一款由数十万颗自研Trainium芯片组成的巨型人工智能超级计算机，这是其位于德克萨斯州奥斯汀的人工智能芯片设计实验室的最新成果。
该芯片集群将供由人工智能初创公司Anthropic使用，Anthropic是一家人工智能初创公司，近期获得来自亚马逊40亿美元的投资。AWS负责计算和网络服务的副总裁戴夫.布朗（Dave Brown）表示，这个名为 “Project Rainier ”的芯片集群将落地美国，2025年建成后将成为世界上最大的人工智能模型训练集群之一。
在拉斯维加斯举行的年度re:Invent会议上，AWS发布了“Ultraserver”服务器，该服务器由64个自研的互联芯片组成。此外，AWS还在会议上宣布苹果成为其最新的芯片客户之一。
re:Invent会议上发布的产品凸显了AWS此前对自研芯片Trainium的承诺，其将Trainium视为替代英伟达GPU的备选选项。
根据研究机构国际数据公司(IDC)的数据显示，2024年人工智能芯片市场的规模估计为1175亿美元，到2027年底预计将达到1933亿美元。IDC去年12月的研究显示，英伟达在人工智能芯片市场中占据了约95%的份额。
AWS的CEO马特.加曼（Matt Garman）称：“目前，GPU市场只存在一种选择，就是英伟达，如果市场上有其他的选择，我们相信客户会很欢迎。”
而亚马逊推动AI战略的关键举措是更新其芯片，这样可以为他们的客户降低成本，同时在产业链内掌握更多的主动权。掌握更多的主动权有利于亚马逊减少对英伟达的依赖，尽管目前两家公司的关系还非常亲密。
觊觎英伟达芯片收入的公司并不在少数，包括人工智能芯片初创企业Groq、Cerebras Systems和SambaNova Systems。亚马逊的竞争对手微软和谷歌也下场开发自己的人工智能芯片，并试图减少对英伟达的依赖。
自从2018年推出基于Arm架构的CPU Graviton以来，亚马逊一直致力于为客户开发自研的芯片产品。亚马逊高管表示，公司的目标是复制Graviton的成功经验，向客户证明，其产品虽然成本更低，但性能并不逊色于市场领先者。
亚马逊造芯，复刻Graviton的成功经验
AWS的人工智能芯片实验室位于德克萨斯州奥斯汀市，其前身是亚马逊在2015年以约3.5亿美元收购的以色列微电子公司Annapurna Labs。
加迪·哈特(Gadi Hutt)在亚马逊收购Annapurna之前就加入了该公司，担任产品与客户工程部的总监。他表示：“芯片实验室自Annapurna创业之初就已设立，当时Annapurna安家于奥斯汀的考量正是希望所处的位置要靠近芯片巨头设有办事处的地方。”
该实验室工程部主任拉米·辛诺(Rami Sinno)说，在实验室内部，工程师们可能今天还在装配线上工作，明天就去焊接了。他们会立即着手处理任何需要完成的工作，这种精明务实的心态在初创企业中更为常见，而非像亚马逊这样的万亿美元公司。
辛诺称，这是有意为之的，因为Annapurna对于人才招聘有自己的理解，并不像行业中的其他公司那样寻找专长于一个领域的“专家”。他们会寻找既精通版图设计又精通信号完整性和功率传输，并且还能编写代码的电路板设计师。
“我们同时设计芯片、核心、整台服务器和机架。我们不会等到芯片准备好后再设计主板，”辛诺说。“这让团队能够以超快的速度前进。”
AWS在2018年推出了Inferentia，这是一种专门用于推理的机器学习芯片，即将数据输入AI模型以生成输出的过程。亚马逊高级副总裁兼杰出工程师詹姆斯·汉密尔顿（James Hamilton）表示，团队首先专注于推理，因为与训练相比，推理任务对芯片的要求略低。
到2020年，Annapurna已经准备好推出其首款面向客户用于训练AI模型的芯片“Trainium”。去年，亚马逊宣布推出Trainium2芯片，称该芯片现已可供客户使用。AWS还表示，目前正在开发Trainium3芯片以及基于该芯片的服务器，其性能将是基于Trainium2芯片服务器的四倍。
规模决定算力，亚马逊服务器搭载芯片数量为英伟达两倍
随着AI模型和数据集的规模越来越大，为其提供动力的芯片和芯片集群的规模也在不断扩大。科技巨头们不仅从英伟达购买更多的芯片，还自行设计芯片。如今，他们正试图将尽可能多的芯片集中在一个地方。
“越来越大”也是亚马逊芯片集群的目标，该集群由Annapurna和Anthropic合作构建，目的是让AI初创公司使用该集群来训练和运行其未来的AI模型。亚马逊表示，该集群的浮点运算能力是Anthropic当前训练集群的五倍。马斯克的XAI最近建造了一台名为Colossus的超级计算机，该计算机使用了10万个英伟达的Hopper芯片。
汉密尔顿说：“你将服务器的规模扩大得越多，就意味着你需要解决的问题越少，整个训练集群的效率也就越高。一旦你意识到这一点，更大更强就成了目标。”
亚马逊的Ultraserver将64个芯片整合到一个封装中，由四台服务器组成，每台服务器包含16个Tranium芯片。布朗说，相比之下，英伟达的部分GPU服务器只包含8个芯片。为了将这些芯片组合在一起，形成一个可以达到83.2千万亿次浮点运算的服务器，亚马逊的秘密武器是其网络技术NeuronLink，这项技术可以使所有四个服务器相互通信。
汉密尔顿称，这是他们在不使服务器过热的情况下所能容纳的最大数量。从尺寸上看，它更接近于冰箱大小，而不是紧凑的个人计算机。但布朗和其他高管表示，这并不是在向客户施压，让他们从亚马逊和英伟达之间二选一。他们更希望客户可以在其云平台上继续使用自己喜欢的产品。
AI编程初创公司Poolside的联合创始人兼CTO艾索.康德（Eiso Kant）表示，他们公司在使用Amazon的芯片运行其AI模型时，相较于使用英伟达的芯片，可节省约40%的成本。但缺点是，工程师需要花费更多的时间让亚马逊的相关芯片软件正常运行。
康德表示：“亚马逊直接通过台积电制造芯片，并将其应用于自己的数据中心，因此对AI初创企业来说，这是看起来更“稳妥的选择”。他表示，亚马逊的赌注下在哪里至关重要，因为在硬件领域，落后对手6个月就可能意味着业务的终结。”
苹果机器学习与人工智能高级总监贝诺伊·杜平(Benoit Dupin)在大会上表示，苹果内部正在测试Trainium2芯片，预计可节省约50%的成本。
分析师表示，对于大多数企业来说，选择英伟达还是亚马逊并不是一个迫切的问题。因为大型企业更关心如何从运行AI模型中获得价值，而不是研究如何训练它们。
这样的市场趋势对亚马逊来说是件好事，因为客户不会注意到云服务背后是哪家芯片厂商在提供算力。它可以与Databricks这样的云数据公司合作，将Trainium应用于云计算，大多数企业都不会注意到任何差异，因为计算能够正常运行，而且成本还会越来越低。
市场研究和IT咨询公司Gartner的分析师奇拉格.德卡特（Chirag Dekate）表示，亚马逊、谷歌和微软正在开发自己的AI芯片，因为他们知道自行设计芯片可以节省时间和成本，同时提高性能。因为定制硬件可以提供非常具体的并行化功能，这可能比通用型GPU的性能更好。
研究公司Redburn Atlantic的分析师亚历克斯·海斯尔(Alex Haissl)表示，AWS在人工智能不太被关注到的领域也有着被低估的实力，包括网络、加速器和名为“Bedrock”供企业使用人工智能模型的平台。
不过，公司领导对于AWS的芯片能够走多远持怀疑态度，至少目前是这样。AWS CEO加曼说：“实际上，我估计在很长一段时间内，市场还是会被英伟达占据，因为目前99%的工作负载都是由它们来处理的，这种情况可能不会改变。但是，我希望Trainium能够开辟出一个不错的利基市场，它将会是很多工作负载的绝佳选择。
本文由编译自：Exclusive | Amazon Announces Supercomputer, New Server Powered by Homegrown AI Chips - WSJ
原创文章，未经授权禁止转载。详情见 转载须知 。
站长之家Alexa排名查询工具提供yjbys.com网站alexa排名查询，特别是能够对网站预估收入以及网站价值进行评估的功能，帮助用户更好的提升alexa排名。
招标资源网致力于为企业提供招投标、政府采购、拟在建项目、审批项目、工程招标信息等服务的招标网，招标资源网每日更新超过80000+数据为全国企业提供全行业及时有效免费的招投标信息。
包双龙运势网（www.yunshi.com.cn）是由著名易学大师“包双龙”老师驻站主持推出的专业风水学、八字命理、教学视频及在线问答等易学文化知识交流学习平台。
Eyou个人电子邮件系统
汉辞宝汉语字典共收录9万8千多个汉字，40多万汉语词典词条，5万多成语词条，60多万首古诗词。汉字来源包括《新华字典》、《康熙字典》、《说文解字》、《国语辞典》(繁体)(台)、《汉语大字典》等字典，涵盖了包括『隶定古文』、『日本汉字』、『韩国汉字』、『越南汉字』、『古壮字』等在内的罕见生僻字。
分享大学生考研信息，包括怎么选择考研学校，考研专业，考研后是继续学习还是工作还是出国。找考研信息尽在一起考研吧
广西世外园生物科技有限公司
济宁迅大是粘弹体防腐材料厂家,主营粘弹体防腐带,粘弹体防腐胶带,粘弹体防腐膏等产品,粘弹体防腐胶带价格合理,可提供缠绕工具和底漆
上海申佑美以画册设计为基础，为众多企业用户提供了高端原创设计纸质印刷定制服务。订制创意高端设计排版案例款式图片免费供参考交流。涵盖：商务宣传册画册设计,精美名片印刷,VI,LOGO,台历生产加工,海报折页定做,产品宣传画册设计订做,进出口贸易企业简介,公司文化内刊等市场宣传推广物料的设计印刷。打造专版设计，印刷，仓储，配送综合服务体系的设计印刷制造商厂家，为企业提供完善的一站式设计制作服务。
广元好房子网旗下广元家装建材网，是广元地区专业的装修、装饰项目招标平台，广元业主可以在广元家装建材网免费发布装修招标。汇集广元各大装修装饰建材家居公司，并有权威广元装修公司排名可供参考。
张家口市怀安县图书馆
西安生殖医院怎么样？陕西老医协生殖医学医院为你提供男科知识等相关信息，定位于专业男科医疗、健康咨询、疾病查询、自助挂号服务，为西安网民提供更全面的男性疾病咨询与就医咨询服务！
前乐视网CEO梁军参观FF会面贾跃亭，不后悔在乐视的六年7月25日，前乐视网CEO梁军今日发布微博称，，时隔两年，再次有机会去参观FF，，并与贾跃亭会面，他表示不后悔在乐视的六年，从乐视和贾跃亭身上学到了很多东西，并祝愿FF能成功，贾跃亭能够东山再起，梁军微博信息显示，其现为新视家科技CEO，据一财报道，在乐视内部，乐视创始人贾跃亭曾...。
如同往常一样，在微软、亚马逊、Google陆续公布财报之后，苹果截至2019年9月28日的Q4财季财报才赶在10月30日姗姗来迟，雷锋网按，财季不同于自然季，这份财报的营收超出市场预期，财报一经公布，苹果的股价就在盘后交易中上涨了近2%，市值稳在万亿美元之上，苹果CEOTimCook也声称，，这是苹果公司有史以来营收最高的Q4财季，...。
这一周的自动驾驶圈，乐视再一次因为，钱，的事儿站在舆论的风口浪尖，谷歌和亚马逊继续用专利宣誓着自己的行业主导权，特斯拉终于光明正大地摆脱了半年前的死亡事故阴影……春节将至，但智驾圈的故事还在继续，雷锋网带你一起回顾本周要闻，1.法拉第未来回应谣言，内华达工厂并未停工，2018年交付新车18日下午，法拉第未来，FaradayFuture...。
向左走，还是向右走，近日，面部识别技术又遭遇，突发事件，本周二，由90个倡议团体组成的小组给三巨头AAM，亚马逊、谷歌、微软，写信，要求三家公司承诺不向政府出售面部识别技术，其中，这些团体中包括了美国公民自由联盟ACLU、难民移民教育和法律服务中心RAICES、电子前沿基金会EFF等重要组织，这封信一经公布，给予三家巨头公司非常大的...。
AI芯片在科技领域到底有多热门，如果高通、英特尔、英伟达这些传统芯片巨头都已开始制造AI芯片还不够证明其热度，那么电商巨头亚马逊、社交巨头Facbook、软件巨头微软等也都开始自主研发AI芯片不仅能说明AI芯片到底有多受关注，更能证明其重要性，相比美国的科技巨头，国内三大科技巨头BAT的脚步似乎并没有那么快，在中兴通讯事件再次引发全民...。
雷锋网按，本文作者连诗路，前阿里产品专家，在人工智能火热的现在，AI链接各行各业似乎是大势所趋，作为一名产品经理该如何适应这个，新时代，作者谈了谈他的看法，一、产品的驱动源力干了10年的PC、APP、智能硬件产品经理，经历B2B、B2B2C、C2C、B2CSOLOMO、O2O、C2M，F、P2P等等各种商业模式或事业模式，有的企业需...。
雷锋网AI科技评论按，在旧金山参加AAAI期间，经余凯老师的引荐，AI君来到了位于PaloAlto的亚马逊AWS办公室与李沐见了一面，从百度少帅到CMU博士再到MXNet，李沐的履历俨然自带距离感，但当穿着耐克灰色套头衫和牛仔裤的李沐坐在我们面前侃侃而谈时，AI君在会面前的担心一扫而光，严格来说这并不是一次采访，更像是朋友间的闲聊，经...。
人工智能的赛道正变得越来越拥挤，竞争也正变得越来越激烈，芯片作为AI发展的重要驱动力，随着Facebook、亚马逊等科技巨头也加入造芯的行列，AI芯片战即将打响，不过，芯片的研发不可能一蹴而就，收购初创企业就成了许多巨头加速自主研发芯片的进程选择，那么，科技巨头喜欢收购或者投资什么样的AI芯片初创公司，收购AI初创公司，目标是服务生态...。
无人货运市场无疑又多了一个搅局者，刚刚，自动驾驶公司文远知行宣布，将联合江铃汽车、中通快递等合作伙伴，正式进军同城货运领域，共同推进Robovan的前装量产和商业化落地，随着新战略公布，文远知行的自动驾驶版图进一步扩张，事实上，当前将自动驾驶技术赋能于各行各业的案例已颇为常见，货运物流也是如此，比如国外的Waymo、亚马逊、戴姆勒，以...。
语音播放文章内容由深声科技提供技术支持您的浏览器不支持audio元素，量子霸权，争夺战的主角一直是谷歌和IBM，但亚马逊AWS目前已经宣布加入这一阵营，在2019AWSre，Invent上，亚马逊AWS宣布并推出了AmazonBraket的预览版，试图将量子计算这一新兴领域转变为一项可以通过互联网访问的服务，要知道，一个月前，微软也...。
苹果的动向总是受到广泛关注，虽然有第三财季其大中华区营收继续下滑、iPhone销售相当疲软的坏消息，但在其他市场上却收获了一些利好消息，其中，iPad称霸二季度平板市场，市占率达30%，8月3日，国际研究机构IDC发布了关于2017年第二季度苹果、三星、华为、亚马逊和联想等品牌平板电脑市场份额的最新市场调研数据，根据IDC的数据显示，...。
当众多智能手机厂商和5G相关厂商在MWC2018展会上谈笑风生的时候，没有人会想到这个舞台上还会有阿里云的身影，毕竟这是一场属于移动通信领域的盛会，但阿里云的确来了，它带着大量的产品扑面而来，2月27日晚间，阿里云在MWC上全球发布了8款云计算和AI产品，其中包括图像搜索、智能客服云小蜜、大数据PaaS产品>，阿里云的图像搜索是基...。
2015年伊始，新生的增强现实行业就似乎像是坐上了过山车一样，当Google宣布它已终止销售GoogleGlass，并会重新开发新版本，在未来完成开发后再重新公布时，这一举措似乎给这个行业造成了打击，但随后，当微软在一月下旬的发布会上推出了其HoloLensAR头戴设备后，我们又看到了这个行业的未来充满着光明，但事实是在HoloLen...。
AAAI2018，the32ndAAAIConferenceonArtificialIntelligence，将于2018年2月2日至7日在美国新奥尔良举行，AAAI是人工智能领域的顶级国际会议，每年举办一次，哈尔滨工业大学社会计算与信息检索研究中心共有3篇论文被AAAI2018录用，下面是论文列表及介绍，•ExploringImpl...。
下一个信息技术时代，什么样的企业能够成为新的领头羊，过去20年，互联网技术经历了从PC时代到移动互联网时代的深刻变革，中国的互联网也经历了从，飞入寻常百姓家，到实现全面觉醒，随着5G、云计算、大数据、传感、人工智能等技术的融合发展，网联网逐渐被公认为下一个时代的标识，物联网，简单来说就是将所有物体联网，深入来讲就是让万物透过互联网具有...。
阿里巴巴收购饿了么，花了665亿，巨亏，阿里巴巴投资苏宁易购，投了200亿，巨亏，阿里巴巴投资盒马生鲜，亏了几百亿，阿里巴巴收购UC，花了43亿美元，巨亏，阿里巴巴收购大润发，花了数百亿，巨亏，阿里巴巴收购优酷，花了几十亿，巨亏，阿里巴巴收购土豆，花了几十亿，巨亏，阿里巴巴投资恒大足球，花了12亿，巨亏，这些年，阿里投资的项目都是亏损...。
新京报讯据@国防部颁布信息，7月25日下午，国防部举办例行记者会，国防部资讯局副局长、国防部资讯发言人张晓刚大校答记者问，记者，台湾地域指导人赖清德近日称，中国大陆对台海及周边地域的，灰色侵扰，日积月累，台防务部门从近日起新增英语广播模式驱离大陆军机，并初次颁布大陆火箭军试射和海警船台岛周边优惠状况，台湾地域海巡部门称中国大陆海警在过...。
