Fireworks乔琳 我们的秘诀是什么 AI产品上市时间从五年压缩到五天 (fireworksmania烟花模拟器下载)

文章编号:43582 资讯动态 2024-12-09 人工智能Firework乔琳

在大模型革命的第一波浪潮中,许多初创公司和企业基于领先的闭源模型,如OpenAI的ChatGPT设计自己的商业模式。然而,随着越来越多新的开源模型的出现,大模型从训练转向推理,基于大模型的商业模式也在悄然改变。

最近,在人工智能领域,一家名为Fireworks AI的公司迅速崭露头角。在今年7月的B轮融资中,该公司在红杉资本的领投下筹集了5200万美元,估值达到了5.22亿美元。

作为一个SaaS平台,Fireworks AI专注于提供生成式人工智能推理和高质量的调优服务。公司致力于为客户打造速度快、成本合理且高度可定制的生成式人工智能(GenAI)解决方案,满足不同客户的独特需求。

在获得融资一个月后,Fireworks AI首席执行官乔琳做客红杉资本的Training> Fireworks乔琳:AI产品上市时间从五年压缩到五天,我们的秘诀是什么?

简单、可以扩展:PyTorch和Fireworks的通用逻辑

乔琳创立Fireworks的初衷源自于一个特别的想法:缩短AI模型训练和推理时间,以此推动各种AI应用的繁荣发展。在training>Fireworks与开源

越来越多的开源项目让商业活动使用AI模型的成本越来越低,但乔琳认为,和其他开源项目对比,Fireworks的优势不仅仅在于针对客户需求定制模型。

与开源项目相比,使用Fireworks的成本更低,这不仅仅体现在经济成本上,还包括了开发成本。Fireworks提供的是一套现成的解决方案,它减少了在尝试和优化不同模型上所花费的时间和精力。

此外,Fireworks还能提供更低延迟的推理速度,以更低的成本实现更多功能。根据Fireworks官方数据,Fireworks的RAG速度比Groq要高9倍;Fireworks SDXL的图像生成速度比其他提供商的平均水平高6倍;Fireworks的推测解码速度更是能够达到惊人的1000个令牌/秒。

与开源原始模型相比,Fireworks能将成本降低五倍,甚至在进一步微调的情况下降低三十倍。以vLLM为例,FireAttention吞吐量比vLLM高15倍,Mixtral 8x7b的每枚代币价格要比vLLM低4倍。

Fireworks还提供了极致简化的自动化服务。Fireworks在后端进行了大量的自动化工作,包括自动调整复杂性和性能优化。这一点是许多仅提供基础库和工具的开源项目所不具备的。Fireworks构建了一个完整的系统,能够自动根据开发者或企业的工作负载进行调整,实现更高的性能和更优的质量。这种自动化服务不仅简化了开发过程,也提高了整体的效率和产出。

市场趋势与竞争

许多初创公司在探索创意产品与市场契合度时,倾向于从OpenAI起步。然而,随着业务规模的扩展,他们迫切需要选择性能更优、延迟更低的AI模型来适应产品市场的需求。在这一关键时刻,Fireworks AI能够提供既经济又性能出色的AI解决方案。

乔琳观察到,在与客户的互动中,与CTO的接触日益频繁,这反映出整个行业正朝着创新驱动型业务转型的方向迅速发展。这一转变的背后有两个主要原因:

首先,行业领导层都注意到了生成式人工智能(Generative Artificial Intelligence,GenAI)浪潮正在重塑行业格局。新兴的初创公司正在以惊人的速度涌现。如果现有企业创新速度不够快,不能高效利用生成式人工智能,就会很快被市场淘汰。

其次,生成式人工智能降低了AI模型训练门槛。传统人工智能训练中,一般只有大规模公司才能提供训练模型需要的海量数据和资源。但生成式人工智能的出现让人们可以在已有的基础模型上进行构建,通过微调得到合适的模型。

Fireworks乔琳:AI产品上市时间从五年压缩到五天,我们的秘诀是什么?

在这一行业变革中,通用小模型因其灵活性越来越受到商业用户的青睐。Fireworks提供了大量规模在7B-13B之间的开源模型,在降低成本的同时,使开发人员能够专注于更小、更集中的数据集,更高效地处理部分特定的业务。

尽管OpenAI等公司研发出了可随意使用的通用款人工智能,但在某些领域,通用模型缺乏业务逻辑,无法满足特定业务需求。

Fireworks AI的模型微调服务正是为了解决这一市场痛点。Fireworks要求客户或开发人员首先收集并标记业务数据,然后根据具体情况选择合适的微调算法,调整参数和模型权重等。Fireworks在后端处理复杂的技术问题,而在前端为客户提供一个简单易用的界面,并留给客户足够的设计空间。通过这种方式,Fireworks使客户能够轻松地定制和优化AI模型,以满足其特定的业务需求。

未来愿景

Fireworks AI的愿景是构建一个能够提供全面知识访问的简单API。

目前,公司已经开发了一百多个模型,包括大型语言模型、图像生成模型、音频生成模型、视频生成模型、嵌入式模型和多模态模型,实现了广泛的基础模型覆盖,并针对延迟、吞吐量和每个Token的成本进行了优化。

尽管这些基础模型集合了丰富的知识和训练数据,但它们所涵盖的信息仍然有限。许多实时数据无法被捕获,而且大量信息隐藏在不公开的API之后,无法直接访问。

为了克服这些限制,Fireworks致力于创建一个功能强大的API,它能够精确地调用不同的模型和API,实现对全部知识的访问。在此基础上,Fireworks想建立一个可以访问数百名专家的专家混合网络,每个专家都很小但很灵活,能够针对特定问题提供高质量的解决方案。

乔琳相信,随着AI模型规模收益的放缓,行业将转向更注重模型适用性的优化。Fireworks AI凭借其创新的技术和定制化服务,完全有能力引领这一行业转变,为用户带来更高效、更精准的AI应用体验。

谁是乔琳?

Fireworks乔琳:AI产品上市时间从五年压缩到五天,我们的秘诀是什么?

Fireworks AI于2022年底在加州创立,乔琳是 Fireworks AI 的首席执行官兼联合创始人,她本科和研究生毕业于复旦大学完成了计算机科学专业,并拥有加州大学圣塔芭芭拉分校计算机科学博士学位。

2015年,乔琳加入了Meta(原Facebook)。当时正值公司AI技术从CPU向GPU转型的关键时期,需要从头开始设计AI基础设施。她带领团队研发了Caffe2等创新模型;并在后来的几年时间里带领由300 多名世界级优秀工程师组成的Meta PyTorch团队,领导开发了PyTorch及其周围的整个系统,乔琳也被誉为“PyTorch之母”。Meta PyTorch团队的研发成果给Facebook 数据中心提供了有力支持,并广泛应用于数十亿移动设备和数百万 AR/VR 设备。

乔琳从PyTorch上了解到了开发人员在AI开发竞赛中时面临的巨大障碍,找到稳定可靠的模型和架构和较低的模型总拥有成本。面对这处市场空白,乔琳选择离开Meta开启新的事业。她和Dmytro Dzhulgakov、Dmytro Ivchenko、James Reed、赵晨宇、Pawel Garbacki还有Benny Chen一起创立了Fireworks。这一批来自Meta PyTorch团队和GCP团队的精英在AI框架和AI基础设施方面有着深厚的背景,也正是这些专业知识能够让他们把复杂的AI构建不断简化,在保证灵活稳定的基础上降低AI的使用成本。

曾和乔琳在Meta同组研究AI Infra的贾扬清,也在去年创立了自己的人工智能公司,Lepton AI。Lepton AI和Fireworks属于同一赛道上的竞争对手。AI开发简化这个赛道考验的是团队的技术经验,只有技术大牛才有底气创立团队加入竞争。

乔琳的Fireworks也是打出了很有底气的口号,“用于构建可用于生产的复合 AI 系统的最快、最高效的推理引擎”。

原创文章,未经授权禁止转载。详情见 转载须知 。

Fireworks乔琳:AI产品上市时间从五年压缩到五天,我们的秘诀是什么?

全局中部横幅
360系统重装大师

360系统重装大师是一款一键式系统重装工具,支持Win7/XP系统的在线重装。相对于光盘重装或者镜像还原或者GHOST等方式,其优点是:安全无毒,快捷方便,驱动可自动备份恢复等优点

爱康云医(北京爱康集团)

北京爱康医投资疗控股集团有20年的发展历史,旗下医院品牌覆盖湖北、安徽、湖南地区,其中湖北黄石爱康医院为国家三级甲等综合性医院。

东莞网站建设

商易信息专业从事企业网站建设和推广优化的公司,公司致力于各种企业网站的搭建和关键词优化排名,PC+手机+微信+推广+托管一步到位,公司自有技术团队,10年建站优化经验,售后有保证,价格合理,可定制开发,欢迎咨询!

高温蒸煮袋

泉州市飞富润包装彩印定制厂家是一家专业生产各种高温蒸煮袋、铝箔袋、真空袋、高阻隔食品包装袋、可降解包装袋、自立吸嘴袋等产品,被广泛应用于各类食品、冷冻冷藏品、水产品、果蔬产品、调味品及种业等行业。

常州钣金加工厂,溧阳(金坛)钣金加工厂

常州市赫达精密钣金科技有限公司位于风景秀丽的常州武进区,是一家常州钣金加工厂家,提供常州钣金加工服务,钣金加工厂家哪家好,常州市赫达精密钣金科技有限公司是您的优选。

广州趣丸网络科技有限公司

TT-玩家首选的娱乐社交平台.集公会和开黑语音聊天,专用开黑语音App;精选热门等着你,做任务领礼包,看资讯,天天刷奖品,充值活动享不停!更有女神互动,全民语音畅聊停不下来。

绿色节能环保网

绿色节能环保网是绿色节能环保行业B2B电子商务平台、电子商务网站,是企业寻求节能环保设备的销售、采购、使用管理和节能环保设备技术服务的行业门户。

AM设计

AM设计总部位于首都北京,并在米兰、香港、西安设立分部。AM是一家以设计为核心、集策划、设计、施工支持、软装陈设、VI系统、形象导视、运营顾问为一体的设计管理公司。致力于建筑设计、酒店设计、办公产业园设计、餐饮设计、会所售楼处设计、商业综合体设计、公建文教设计以及地产住宅设计,为每一位客户提供高级定制化服务,有效的把控项目造价,帮助客户提升品牌。公司成立至今,每个AM人遵循“四心”原则,为公司的自身品牌形象树立标准。

九游APP官网

九游客户端官网为玩家提供九游游戏中心客户端下载,新版九游APP安卓手机版、iOS版下载,还有专属礼包免费领,权威手游榜单随时看!玩游戏,找礼包,就用九游APP!

养老服务网

养老服务网,专为养老院和老年用户提供养老相关信息及配套服务,是一个方便、快捷、可靠的养老生活指引平台;养老网拥有强大的养老机构库,信息实时更新;拥有“找养老院”“养老咨询”“老年商城”“找护工”等栏目,提供全面的线上养老服务!

龙泉驿土陶非遗谢欣敏

成都市龙泉驿土陶制作技艺,使用龙泉驿的泥土,采用拉坯,拍片,塑形等传统手法做坯。寻找选用龙泉山的含矿物质石料做釉,研发出具有龙泉驿地方特色的土陶作品。

武老师·中考云备考官方

初三老师精准选题,分层组卷的智能中考备考系统。历时3年,耗资过亿,超300人专职团队运营,融合本省命题研究与智能技术,助您中考备考更高效

全局底部横幅