对话潞晨科技尤洋 只有开源才能走得更远丨AGI十人谈 AI大模型没有知识产权 (北京潞晨科技有限公司)
作者丨何思思
编辑丨林觉民
2021年北京中关村多了一家科技公司——潞晨科技。
作为一家创业公司，潞晨科技这个名字可能还不被大家所熟知，但是其创始人尤洋却凭借“ACM SIGHPC杰出博士论文奖、NUS校长青年教授、亚洲福布斯30岁以下精英榜”等多个头衔，被业界熟知。
谈到最近火出圈的大模型，其实尤洋早在2018年就参与了谷歌BERT的训练，并把训练时间从3天降到了76分钟。据尤洋介绍，至今仍有企业在使用当时训练BERT时设计的方法。
而潞晨科技的创立要从2020年说起，彼时的尤洋刚刚从美国加利福尼亚大学伯克利分校毕业并获得博士学位，这一年 openai 发布了当时全球规模最大的预训练语言模型 GPT-3，正是在这时尤洋有了做大模型的想法。
尤洋告诉： GPT-3出来时并没有出圈，但当时我就预判到大模型一定是未来的一大发展趋势，因为疫情影响，所以一直在等一个机会。
直到2021年这个想法才真正落地了，同年7月尤洋只身一人创办了潞晨科技，同时这件事情也受到了资本的青睐，成立近一年半的时间潞晨科技已经完成了3轮融资。其中包括了创新工场、真格基金两家VC机构的超千万元投资。
值得注意的是，创立之初潞晨科技就选择了一条和其他厂商不同的路线，即不做通用大模型，围绕降本增效做文章，本质上是为了降低大模型的训练成本，提高大模型的训练速度。
缘何这么做？
尤洋曾公开表示过，过去六年大模型参数量每18个月增长了40倍，过去三年每18月增长了340倍，而硬件的增长速度大概每18个月增长1.7倍，完全跟不上节奏。训练成本高、周期长，是当前大模型企业最需要克服的难题。
同时，他还表示，我的本职专长是研究高性能计算，用很朴实的话说，就是想办法让大模型训练的越快，越省钱。
可以说，尤洋选择的路线是验证其研究成果最有效的途径。
了解到，目前潞晨科技的研发主要分为三部分：一是做大模型训练系统——Colossal-AI；二是训练100亿到200亿参数的行业模型；三是做PaaS(Platform as a Service)平台。其中Colossal-AI系统已经有世界500强，2000强的客户在使用。
“现阶段的重点是Colossal-AI系统的开发，未来不管是GPT、PaLM还是任何一家大模型都可以用Colossal-AI训练，因为我们的系统就是帮他们省钱省时间的”尤洋补充道。
谈到具体能降多少成本？尤洋这样说：“假如用最基本的方案训练GPT 大概要1000 万美金，假如用业界最好的方案，能把成本降到300万美金，我们的方案则可以降到140万美金，也就是在最便宜的方案上再降一半，当然这些是绝对优化，如果加上收敛性优化可能降的会更多，但也会影响模型。”
成本只是一方面，与其他厂商不同的是，潞晨更注重“开源”二字，因为在尤洋看来，AI发展到现在正是因为它足够开放，未来AI竞争的焦点是生态，即有多少人在用你的软件，有多少人在给你反馈，只有反馈多了你才能不断迭代优化，才能吸引更多用户。
“一个好的AI生态，应该有三四千个用户或者三四千家企业去使用去贡献，这样整个生态的力量势必会比大厂的实力要强。”
以下是和尤洋的对话：
大学教授创办AI公司，技术契合，想让企业低成本获得大模型
：作为一名大学老师，为什么想要创业？
尤洋： 主要是技术比较契合，GPT是2020年出来的，当时GPT1、2的影响力还不是很大，后来GPT3也没有出圈。但GPT3出来的时候我已经在思考这件事情了，当时我就有一种预判，大模型肯定是未来的一大趋势，但大模型在各行业落地的难点就是计算成本。
我本职的技术专长是研究高性能计算，用很朴实的话说，就是想办法让大模型训练的越快，越省钱。比如之前我们和谷歌合作，训练出了当时最好的模型BERT，训练时间从3天降到了76分钟，也产生了一些价值，现在也有很多人在用我们当时设计的方法。
其实2020年刚毕业时就在思考这件事，2021年年初我就觉得需要创业了，但赶上了疫情，其实一直在找机会。
：最初受谁影响做这件事的？
尤洋： 2021年之前就有一些VC找过我，像李开复老师2021年四五月份就联系到了我，7月份我来北京和他们见了一面，过了不到一周他们就给我发了投资意向书。
：所以是李开复让你下定决心做这件事的？
尤洋： 我觉得让我下定决心的是我们对技术的判断，其实在李开复老师之前，一些个人天使也有投资意向。
：18个月完成三轮融资，是谁先投的？
尤洋： 创新工场最先给的投资意向书，真格基金知道创新工场给了，也迅速跟进了，所以我们2021年8月份就完成了融资，对外PR后蓝驰联系到了我们，9月份和他们老板见了一面，十一之前就给我发了投资意向书。只不过十一假期之后到元旦前我们一直在做公司的VIE结构，浪费了很多时间。
：资金有了具体怎么搭建团队的？2020年就开始了？
尤洋： 对，其实我们公司成立时只有我自己一个人，正好当时新加坡国立大学的一批学生毕业了，就把他们邀请过来了，然后又从社会上招募了几个人。
：潞晨的融资一直很顺利，您认为资方看中的是什么？
尤洋： 和我之前训练BERT的经历有关，我的那项技术创新工场内部的AI 工程院现在也在用，我觉得这是投我的一个原因，再加上我是美国博士，其实在业界还是有一定知名度的。
创新工场投我们的时候，我们什么也没有，他们看的就是我个人的一些积累和之前做过的一些有用的东西，蓝驰投我们的时候，我们刚想好要做开源社区，他们可能对开源社区也比较看好，最近一轮红杉资本投我们是已经初见一些效果了，并且他们也比较相信开源。
三条线齐头并进，被动获客高于主动获客
：潞晨给自己设定的大模型路线是什么样的？
尤洋： 主要分为三部分：一是做训练大模型的系统—Colossal-AI；理论上不管GPT、Llama还是其他大模型都可以用Colossal-AI训练，因为我们的系统就是帮他们省钱省时间的；二是训练大模型，做100亿到200亿参数的面向行业的垂直模型；三是做PaaS平台，把需要训练大模型的人集成到我们的平台上去，这样三个飞轮就能形成一个正向的循环。
：现在做到哪一步了？
尤洋： 三个团队在同时做，主要精力还在Colossal-AI上面，当然第二部分也在做，主要帮助企业做大模型的私有化部署，第三部分未来的商业化可能会多一些。
：具体怎么给客户提供服务？
尤洋： 要么买我们的企业版软件，要么用Colossal-AI训练自己的大模型，然后我们给他的机器做优化。
：Colossal-AI的效果如何了？
尤洋： 其实我们自己测试了，肯定是能降低成本的，并且现在已经有很多人在用了。
：所以说现在Colossal-AI已经做得很成熟了？
尤洋： 没有绝对好的事情，我们的产品3到6个月会升级一次，要想变得更稳定的话，还是需要一定时间去迭代的。
：具体点比如王小川或者其他家用Colossal-AI训练的话，成本大概能降低到多少？
尤洋： 我们做过计算，假如用最基本的方案，比如Python、DDP等没有经过优化方法训练GPT 大概要1000 万美金。比如用业界最好的方案，能降到300万美金，效果也不会打折扣，因为是矩阵张量优化，不是收敛性优化，收敛性优化会影响模型精度。那我们的方案可以降到140万美金，就是在最便宜的方案上再降一半，当然这些都是绝对优化，如果加上收敛性优化可能降的会更多，但也会影响模型。
：效果已经这么好了，那岂不是其他企业想做都做不下去了？
尤洋： 我不这么认为，我觉得AI行业没有知识产权，也没有IP，包括GPT也是在谷歌Transformer的架构上做的，如果技术长期闭源的话，其实是不可持续的。
我坚信AI能发展到今天就是因为它的开放性，没有任何人能够认为自己的生成式AI就是独特的且有很高壁垒的，我觉得未来竞争的是生态，就是说有多少人在用你的软件，有多少人在给你反馈，因为只有给你提供的反馈多了，你才能不断迭代优化它，这样才能吸引更多用户。
我觉得一个好的AI生态，应该有三四千个用户或者三四千家企业去使用去贡献，这样整个生态的力量肯定比大厂的实力要强。
：目前商业化做得怎么样？
尤洋： 比较顺利，虽然PaaS还没有很成熟，但第一部分已经在挣钱了，现在我们已经有很多世界500强、2000强的客户了，包括国内这几家创业公司都是我们的潜在客户，像阿里通义千问、百度文心一言、MiniMax可能都用过Colossal-AI了。
：PaaS层产品什么时候能发布出来？
尤洋： 8月1号之前会发布出来。
：了解到潞晨现在的客户国外偏多国内偏少？
尤洋： 两方面原因：第一我们公司成立的时间比较短，成立的前一个月主要在搭建团队，需要一定的时间过渡，第二其实我们也有很多国内客户，比如某些AI企业已经成立专门的团队在研究Colossal-AI了，当然我们现在也有很多目标客户，像传统的车厂、药厂、石油公司、金融机构等。
：为什么把传统行业作为目标客户？
尤洋： 因为传统企业是有长期付费意愿的，普惠AI时代是传统行业内部的一次AI升级，最终AI有多普及还是要看传统行业，现在有好几家汽车企业在自己训练，因为他们觉得这是一项核心技术，也没有绝对壁垒。包括一些头部证券公司对原创技术也是非常渴望的。
：未来重点放在国外还是国内？
尤洋： 其实无所谓，毕竟我们是一家小公司，没必要把自己限制的太死。再就是我们做的是开源社区，是一个被动获客的过程，不太需要主动BD，所以现在美国、中东、新加坡以及东南亚的客户都有。
：如果主动获客的话，会选择哪些区域？
尤洋： 主动获客的话，我觉得优先级：中国市场第一，东南亚市场第二，中东市场第三。被动获客的话肯定就没有任何限制了。
AI没有知识版权，只有开源才能走的更远
：为什么觉得开源生态很重要？
尤洋： 我觉得有两方面原因：一方面，把开源社区做好确实能创造更大的价值。我们做的是风险投资，但是当很多人都在用时，就能产生了一定的社会价值，我们的钱也算没打水漂。从投资人的角度来说，他们也能认可，因为投资人的钱也是从社会上募资而来的。
另一方面，毕竟创业做公司肯定想变现上市，我觉得本质上To B、AI最核心的竞争力是要和用户建立一个强的信任绑定关系，所以我觉得开源很重要。
：所以在创立潞晨前就想好要做开源了？
尤洋： 成立公司一个月内决定要做开源这件事儿。
：现在整个生态是什么样的状态？
尤洋： 这个生态中目前主要有三类企业：第一类是深度用户，他们可以贡献一些代码，帮我们去优化软件；第二类是用了我们的软件觉得很好的企业，在这个过程中会形成依赖关系；第三类是给我们反馈问题的企业。这三类企业中大小公司都有。
：有多少人专门负责开源生态的运营工作？
尤洋： 我们安排了两三个人在引导，其实做生态的意义就是让别人用，帮别人解决问题，然后别人发现问题了，我们再不断完善，当然我们自己也会设定一些重要的发展方向。
：所以做开源生态不需要铺太多的人？
尤洋： 对，我觉得人数应该不会超过20人，不管这个开源社区有2万人用还是100 人用。因为我觉得他需要一部分人去维护一个核心的内核，把内核维护好了，其他边边角角的，其实只要这个东西有很多人用，是有人会自发做贡献的。
：和英伟达的合作其实也是为了生态？
尤洋： 对，目前我们在英伟达的生态里，在他们的生态里其实我们有望拿到一些低价的算力，英伟达也给我们开源社区贡献了一些新功能，也都会优先适配Colossal-AI。
国内大模型都有机会，谁率先跑出来，需年底见分晓
：国内大模型会呈现怎样的发展局面？
尤洋： 主要分为两个方向。国外内市场最多有两三家能走出来，大概今年年底能看出来。
最终国内通用大模型市场最多能容下两三个，大厂肯定会占据一半，剩下的一个名额可能是创业公司。这就迫使其他创业公司必须转型做行业模型，行业模型其实没有通用大模型值钱，所以大部分创业公司的最终估值会下降很多。
：您看好哪家的大模型？
尤洋： 最领先的要么是大厂，要么是 MiniMax 和智谱。这几家肯定已经训练出了大模型，其他几家有的只是一个雏形，还在微调阶段甚至还没到训练阶段。其实到火山云上看一下卡的使用量也可以看出来，MiniMax 和智谱已经使用了 1000 张 GPU 卡了，其他几家都是 200 张。
平心而论，我觉得百度可能还真是最领先的。
：那创业公司呢？
尤洋： 我觉得是智谱。
有几个原因，第一，中国和美国的国情不一样，中国AI项目的论文一般都出自大学，而美国是Google、Facebook、OpenAI等，也就是说中国的技术源泉源自大学，最优秀的 AI人才也在大学；第二，我觉得大模型一旦做大，面临的是政治问题，美元基金最终会受限，所以像智谱这种纯人民币的反而有优势；第三，唐杰老师有丰富的学术、技术经验的积累，另外唐杰老师的清华背景对大模型的发展会有很大帮助。
：那您觉得国内大模型的决胜点是什么？
尤洋： 数据、算力、算法。算力和数据应该是最重要的，如何把算力合理地用起来，也非常重要。
原创文章，未经授权禁止转载。详情见 转载须知 。
智能工厂服务商，智能制造服务商，自动化设备/系统提供商
-旅游-旅游资讯网址
超翔网为您提供更全面的自助游、团队游、自驾游、周边旅游攻略，包括美食，交通、购物等旅游信息，分享专业旅游线路、让您的旅行更安心!
北京丽都公寓—宽敞通风的公寓享有典雅的装饰，铺有镶木地板，提供优质的家具和现代化的设施，包括平板有线电视和空调。北京丽都服务式公寓设备齐全的厨房配有微波炉、冰箱、洗碗机和厨具。北京丽都酒店式式公寓大部分公寓均提供浴缸。
江苏星尧信息科技有限公司是一家从事智能化的高新技术企业。主要体现在政府、医疗、电力、水利、交通等领域，为客户提供有竞争力、安全可靠的产品与服务，公司位于南京市建邺区双闸路98号河西世茂智汇园区。
服饰珠宝网,珠宝饰品网,服饰饰品珠宝传媒,中国珠宝服饰网络媒体,服饰饰品珠宝资讯行业门户网站,提供黄金珠宝,饰品配饰,鞋帽服饰,腕表手表,箱包皮具等服饰珠宝行业动态;发布服饰珠宝流行趋势元素。
一家专业化综合性电梯制造企业，公司传承了150余年来电梯技术的精华，集设计、研发、制造、营销、安装与售后服务于一体，以安全和环保为己任，致力于为全球客户提供更安全、更环保、更先进的电梯产品。
常州二建建设有限公司成立于1953年，是常州地区具有影响力的骨干施工企业。公司具有施工总承包壹级资质和机电设备安装专业承包壹级以及建筑装修装饰专业承包贰级、钢结构工程专业承包贰级、消防设施工程专业承包贰级、起重设备安装工程专业承包贰级等专业资质。
《天天爱掼蛋》（原《爱掼蛋》）下载官方网站。天天爱掼蛋是苏皖地区最正宗、最好玩的掼蛋游戏，万人同时在线，百万资深掼蛋玩家聚集地，免费注册，神秘大奖等你拿！
{$obj.description}
内蒙古慧韬科技有限公司成立于2021年，现有员工9人，其中专业技术人员3人。公司于2018年入围内蒙古自治区政府采购协议供货单位。内蒙古慧韬科技有限公司自成立以来，凭借公司多年经营理念及良好完善的售后服务，建立了稳定的用户群体，用户遍及行政事业单位、政府、教育部门以及电力企业。与内蒙古广播电视台、内蒙古大学、内蒙古党校、内蒙古政府机关事物管理局、内蒙古电影集团等单位合作十余年，得到各单位的广大信任和赞誉。内蒙古炬盛兴通网络技术有限公司，拥有雄厚的流动资金，完善的财务管理，先进的专业技术队伍，优质的服务体系，已成为我区最具专业技术、销售、服务综合一体的公司。
山东宇捷空调设备有限公司常年从事4Q暖风机,5Q暖风机,7Q暖风机,8Q暖风机,4GS暖风机,5GS暖风机,7GS暖风机,8GS暖风机等空调末端产品的生产销售，欢迎新老客户前来咨询。
创业的方式有千千万种，选择不同的项目赚取到的钱财存在巨大的区别，想要成功打开市场的创业者需要用心挑选市场发展潜力大的项目，水胭脂美容院是众多创业者看好的合作项目，在市场上不仅拥有庞大的消费群体，而且，营收空间相当可观，是一种能够为创业者带来源源不断财富的好项目，如果你也对该品牌感兴趣，和小编一起来看看水胭脂美容院连锁加盟机构怎么样，口...。
之前传闻REDMITurbo4和一加Ace5，Ace5Pro都是12月底发布，而12月13日，REDMI总经理王腾在微博互动中表示，计划有变，，而小米王化也表示，别圈我了，我早就暗示了本月没有发布会了，同日，闲聊站也表示延期了，但，不会变太多，这波，REDMITurbo4要从2024年的新机，变成2025年的新机了，RedmiT...。
之前传闻REDMITurbo4和一加Ace5，Ace5Pro都是12月底发布，而12月13日，REDMI总经理王腾在微博互动中表示，计划有变，，而小米王化也表示，别圈我了，我早就暗示了本月没有发布会了，同日，闲聊站也表示延期了，但，不会变太多，这波，REDMITurbo4要从2024年的新机，变成2025年的新机了，RedmiT...。
12月18日，联发科官宣天玑8400将在12月23日15，00发布，荣耀Magic7RSR保时捷设计在同日的14，00发布，天玑8400的已知爆料，天玑9400没去用的A725，原来全留给天玑8400了，在国内的应用生态中，APP性能要求很高，A510，A520，A55这些小核，纯粹是拖油瓶，这种小核的比例越低，实际能效反而会越好，...。
12月18日，联发科官宣天玑8400将在12月23日15，00发布，荣耀Magic7RSR保时捷设计在同日的14，00发布，天玑8400的已知爆料，天玑9400没去用的A725，原来全留给天玑8400了，在国内的应用生态中，APP性能要求很高，A510，A520，A55这些小核，纯粹是拖油瓶，这种小核的比例越低，实际能效反而会越好，...。
12月19日，闲聊站爆料称，荣耀Magic7RSR保时捷设计，将在12月23日发布，的1，1.4型3倍长焦，光圈猛增到F1.88，等效光圈一下子飙到了F7.1，数字越小，进光量越猛，PS，荣耀Magic7Pro的2亿像素2.5倍长焦，三星HP3，1，1.4型，等效60mm，是F2.6，用滕飞老师，相机笔记et，之前汇总的数据，就可以...。
12月19日，闲聊站爆料称，荣耀Magic7RSR保时捷设计，将在12月23日发布，的1，1.4型3倍长焦，光圈猛增到F1.88，等效光圈一下子飙到了F7.1，数字越小，进光量越猛，PS，荣耀Magic7Pro的2亿像素2.5倍长焦，三星HP3，1，1.4型，等效60mm，是F2.6，用滕飞老师，相机笔记et，之前汇总的数据，就可以...。
语音播放文章内容由深声科技提供技术支持您的浏览器不支持audio元素，雷锋网AI科技评论按，在过去的两三年中，我们经常听说人工智能在棋牌类游戏，博弈，中取得新的成果，比如基于深度强化学习的AlphaGo击败了人类世界冠军，由AlphaGo进化而来的AlphaZero还一并搞定了国际象棋和日本象棋；基于博弈论的冷扑大师，Libratus...。
OpenAI前首席科学家、联合创始人IlyaSutskever曾在多个场合表达观点，只要能够非常好的预测下一个token，就能帮助人类达到通用人工智能，AGI，虽然，下一token预测已在大语言模型领域实现了ChatGPT等突破，但是在多模态模型中的适用性仍不明确，多模态任务仍然由扩散模型，如StableDiffusion，和组合方...。
国内企业必须认识到开源的价值，重视开源，堵俊平谈道，所谓，开源的价值，，包含两个层面的意思，一是开源软件对企业发展的助益，二是企业对形成良好开源生态的反哺，前者的例证不胜枚举，国内大多互联网公司的蓬勃发展离不开，LAMP，Linux、Apache、MySQL、PHP，的支持，也有越来越多企业拥抱开源，然而，国内开源发展至今，仍没...。
诞生于加州大学伯克利分校的RISC，V开源指令集近来在中国关注度非常高，5月，上海发布国内首个RISC，V的支持政策，9月，中国RISC，V产业联盟在上海成立，11月，中国开放指令生态，RISC，V，联盟在乌镇宣布成立，有意思的是，中国最早做RISC，V的公司选择了落户深圳，并且仅用7个月就设计出了一款基于RISC，V指令集的AI芯片...。
雷锋网消息，本周，西部数据，WesternDigital，针对其去年推出的RISC，V处理器计划发布了三项重要公告，公布了基于RISC，V指令集的自研通用架构SweRV和开源的SweRV指令集模拟器，ISS，，以及基于以太网OmniXtend的缓存一致性技术，西部数据预计硬件和软件将用于大数据和快速数据应用的各种解决方案，包括闪存控制...。
近期，汇医慧影AI定量CT骨密度检测软件正式通过NMPA认证，与以往医学影像AI产品的，辅助诊断，定位，汇医慧影的AI骨密度软件聚焦在体检场景，着重强调AI对大规模筛查的赋能，骨质疏松，这是一个亟待解决大规模筛查难题的疾病，患病率极高，但囿于传统骨密度检测方法的局限性，一直难以通过大规模筛查实现提前预防，在上海交通大学医学院附属瑞金医...。
Z150次列车时刻表经过的站点有贵阳站、怀化站、长沙站、武昌站、许昌站、郑州站、邯郸站、邢台站、石家庄站、北京西站，Z150次列车从贵阳站到北京西站总共有10站，18，16发车，次日21，43到达，全程耗时约27小时27分钟，其中，贵阳站位于中国贵州省贵阳市，是中国铁路成都局集团有限公司管辖的一座客货站，是黔桂铁路、沪昆铁路、川黔铁路...。
发表在专业问答2024，3，2616，12展示机型信息，品牌型号，坚果N1Ultra、ThinkPadX1系统版本，BonfireOS、Win10坚果投影仪连接电脑投屏可以通过有线连接坚果投影仪和电脑的HDMI接口实现，总共可以分为三步，下面就为坚果投影仪怎么连接电脑投屏的详细方法做具体说明，坚果投影仪怎么连接电脑投屏1.有线连接设备...。
10月7日，济南市市场监视治理局颁布状况通报称，近日，有自媒体颁布消息称，山东济南，一位年过六旬的大妈在路边摆摊卖水果，结果被监管部门处以16万的罚款，大妈直言交不起，没想到执法人员竟说不交的话就罚145万！大妈将监管部门告上法庭，经考查核实，济南市场监管部门从未操持过所谓此案件，消息中所经常使用的图片，均为互联网截取外地图片，非济南...。
外地期间14日，以色列国防军颁布通报称，以军和以色列安保局，辛贝特，依据关系情报，判定一所位于加沙中部努赛赖特难民营中的联结国近东巴勒斯坦难民救援和工程处的学校，被武装人员作为藏身和发起对以袭击的据点，因此对该学校发起空袭，以军称其经常使用了准确制导导弹等增加对平民损伤的措施，...。
