本文核心介绍了复旦出身的AI创业者Lin Qiao创办的Token工厂Fireworks AI的发展情况和Token赛道的行业概况,核心干货如下:
1. 项目核心信息:Fireworks AI成立仅四年,最新完成102亿元人民币D轮融资,投后估值达到175亿美元,不到两年估值涨了30多倍,被黄仁勋称为AI工厂的台积电。核心业务不做前沿大模型,只做AI推理,帮企业微调、托管开源模型,按调用量收费。
2. 核心优势:自研Fire Attention CUDA内核栈,推理速度是同价位对手的5倍,同等质量下定价比闭源模型便宜5到10倍,目前ARR突破10亿美元,日处理token超40万亿,95%的token来自企业定制模型,服务了Uber、Notion、Quora等知名客户。
3. 行业背景:当前开源大模型质量逼近闭源,企业降本需求强烈,推理层成为AI赛道新的热门风口,中美都有大量玩家布局。
本文给品牌商带来AI落地趋势和业务布局相关干货,核心内容如下:
1. 行业消费趋势:当前AI产业需求已经从追求通用大模型转向定制化专用模型,开源模型质量与闭源模型差距不断缩小,推理成本仅为闭源的1/5-1/10,越来越多企业开始选择开源+第三方推理服务的AI落地方案。
2. AI落地路径参考:Fireworks这类Token工厂可以帮助品牌商基于自身的用户数据、业务流程、客户关系做专属模型微调,品牌商不需要自行采购GPU、搭建AI团队,就能低成本获得适配自身业务的AI能力,覆盖文本、图像、多模态等多种需求,还满足各类合规要求。
3. 布局提示:当前Agent类应用爆火带动单次AI请求的token量暴涨,用户对AI互动的需求越来越高,品牌布局AI必须提前控制推理成本,避免出现用户用得越多亏损越多的情况。
本文给AI相关卖家梳理了Token赛道的机会、增长数据和风险提示,核心干货如下:
1. 市场机会:当前AI产业的资本正在从大模型训练环节转向推理服务层,开源模型质量提升叠加企业降本需求,催生了极大的Token工厂市场需求;推理是企业持续投入的成本项,降低单次调用成本已经成为全行业的核心痛点,市场空间广阔。
2. 行业增长情况:头部玩家Fireworks成立不到两年,估值从5.52亿美元涨到175亿美元,涨幅超过30倍,ARR突破10亿美元,同比增长5倍,日处理token量从15万亿涨到40万亿以上,行业增长速度极快,中国也有玩家冲击AI Token工厂第一股。
3. 风险提示:该赛道毛利率受算力采购价、利用率、客户压价多重影响,竞争加剧后容易变成高收入低利润的转售生意,还会面临云厂商和大模型厂商的两头夹击,未来大概率像云计算一样走向头部集中,中小卖家需要提前警惕风险。
本文给工厂推进AI数字化转型带来新的机会和启示,核心干货如下:
1. 需求匹配度高:工厂都有专属的生产数据、工艺流程和设计需求,通用大模型很难适配工厂的实际生产场景,需要定制化的专用AI模型,Token工厂可以帮助工厂基于自身生产数据低成本微调部署专属模型,不需要工厂投入大量资金采购算力、挖专业AI团队,大幅降低了AI转型的门槛。
2. 成本优势明显:同等模型质量下,Token工厂的推理成本比闭源大模型低5-10倍,工厂可以以较低成本持续使用AI优化生产流程、辅助产品设计,不会因为推理成本过高限制AI的规模化使用,适合工厂长期迭代AI能力。
3. 转型路径启示:工厂做AI数字化不需要死磕自己训练大模型,可以借助第三方Token工厂的基础设施,快速把自身积累的行业经验、生产数据转化为可用的AI能力,加速AI落地,降低转型试错成本。
本文给AI相关服务商梳理了推理赛道的行业趋势、客户痛点和成熟解决方案,核心干货如下:
1. 行业发展趋势:当前AI产业已经从拼大模型参数、拼训练能力转向拼落地效率,推理层成为资本重新估值的热门赛道,中美都有大量玩家涌入,头部玩家的收入、token处理量都实现了数倍增长,整个赛道处于高速扩张期,市场需求远未被满足。
2. 核心客户痛点:企业的核心痛点是通用大模型不符合自身业务需求,闭源大模型推理成本过高,自身又缺部署AI的基础设施和专业人才,自己搭建推理架构成本高、周期长,很难快速落地。
3. 头部玩家解决方案:头部玩家Fireworks的路径是主打工程效率壁垒,自研CUDA内核优化推理速度,推出兼容OpenAI的标准化API,支持多种微调方式,靠软件技术提升算力利用率,把推理成本压到远低于闭源模型的水平,同时满足企业合规要求,覆盖多类开源模型,适配企业定制化需求。
本文给AI相关平台商梳理了Token赛道的需求变化、行业动态和风险规避方向,核心干货如下:
1. 当前客户需求变化:越来越多平台客户的AI需求已经从通用大模型推理转向定制化开源模型推理,客户希望能基于自身私有数据做模型微调,获得性价比更高的推理服务,传统通用推理服务已经不能完全满足客户的差异化需求。
2. 行业头部玩家的最新做法:头部Token平台Fireworks从20多家供应商采购GPU,和微软、英伟达深度绑定合作,靠自研软件技术提升算力吞吐和推理速度,主动优化客户结构,从早期依赖少数AI工具客户拓展到多领域企业客户,不断扩大规模提升服务可靠性。
3. 风向规避提示:该赛道存在被上下游夹击的风险,大云厂商、大模型厂商都可能直接切入推理服务,价格战会大幅挤压利润空间,平台商需要打造自身的工程效率壁垒,提升算力利用率,打造客户离不开的差异化服务能力,避免沦为单纯的算力转售商,同时需要关注毛利率健康,警惕估值泡沫风险。
本文给产业研究者提供了Token工厂这个新兴赛道的最新产业动向、商业模式和待研究问题,核心干货如下:
1. 产业最新动向:当前AI技术栈的推理层正在被资本重估,资本投入正在从大模型训练环节转向推理服务层,Token工厂成为中美AI赛道共同的热门方向;美国赛道资本更激进,估值更高,英伟达等产业巨头直接下场投资,客户以全球化企业软件公司为主;国内玩家主打异构芯片适配,满足本土芯片生态需求,也获得了资本和产业资本的支持,增长速度很快。
2. 核心商业模式:Token工厂的本质是把底层算力、开源大模型、推理引擎打包封装成标准化API,开发者只需写几行代码就能调用,按调用量按量收费,核心帮企业做定制模型的微调与托管,相当于AI产业的卖水人,定位类似AI工厂的台积电,赚推理环节的过路费。
3. 值得研究的新问题:该赛道未来是否会像云计算一样走向头部集中,独立推理层能否建立起客户离不开的垄断性效率壁垒,还是会沦为低毛利的算力转售生意,本土芯片生态下Token工厂的发展路径和美国模式有什么差异,都是值得深入研究的新产业问题。
返回默认