广告
加载中

姜大昕揭秘大模型“深水区”核心:应用为王 成本重塑

胡镤心 2025-07-26 11:14
胡镤心 2025/07/26 11:14

邦小白快读

EN
全文速览

Step-3大模型的技术突破与应用价值

1. Step-3采用MoE架构,总参数321B但激活参数仅38B,在保证性能基础上降低40%推理成本。

2. 在国产芯片上的推理效率达DeepSeek-R1的3倍,英伟达芯片分布式推理时吞吐量提升超70%。

3. 成立模芯生态联盟联合华为昇腾、沐曦等10家国产芯片厂商,推动标准化降低适配成本。

模型应用的产业新动向

1. 行业从“技术竞赛”转向“应用为王”,提出强智能、低成本、可开源、多模态四位一体评价体系。

2. 模芯协同创新突破“国产芯片适配鸿沟”,解决算力卡脖子与供应链安全问题。

AI赋能品牌智能化的新路径

1. 多模态推理模型Step-3支持图文音视多维度交互,为品牌内容营销提供技术底座。

2. 开源特性降低技术准入门槛,帮助中小品牌快速部署AI客服、智能推荐系统。

消费技术趋势洞察

1. 模型推理成本降低40%带来C端应用普及机会,建议关注AI教育、智能家居等领域。

2. 模芯联盟建立的产业标准将加速AI产品国产化替代,需提前布局供应链适配。

市场增长的三个确定性机遇

1. 推理成本下降刺激B端应用需求,预计AI客服、内容审核等领域采购量年增200%。

2. 国产芯片适配突破带来政府、央企采购红利,需获取昇腾等生态认证资质。

3. 模芯联盟推进的标准化将降低30%技术整合成本,建议布局AI解决方案集成业务。

风险与对策

1. 注意美方可能升级芯片制裁,建议双供应链配置(国产+国际芯片方案)。

2. 关注各地方政府AI产业扶持政策,重点争取示范项目补贴。

智能制造的协同创新机会

1. Step-3对国产芯片的深度优化,将带动沐曦GPGPU、寒武纪ASIC等芯片订单增长。

2. 模芯联盟推动的标准化接口,使工厂可开发通用型AI加速模块,预计硬件代工需求提升。

生产流程优化启示

1. MoE架构的参数激活机制,启示工厂可建立弹性产能调配系统。

2. 建议引入天数智芯的算力调度系统,实现生产排程的智能决策。

行业痛点与解决方案

1. 客户模型推理成本高:Step-3的MoE架构可将单次推理电费从0.3元降至0.18元。

2. 国产芯片适配难:通过模芯联盟的标准中间件,适配周期从6个月缩短至2个月。

技术服务新方向

1. 开发跨平台模型压缩工具,利用Step-3的开源特性做定制化轻量化。

2. 构建MaaS(模型即服务)监控系统,帮助客户实时优化推理资源分配。

平台生态建设关键点

1. 需接入模芯联盟认证的8类国产芯片,获得政府项目准入资格。

2. 建立模型推理效能评测体系,参考Step-3公布的38B激活参数标准。

运营风向标

1. 重点引进经过多模态优化的应用,如图文生成、视频理解等领域开发者。

2. 建议与无问芯穹等算力调度平台合作,构建弹性推理资源池。

产业研究新命题

1. MoE架构中专家网络动态激活机制,在分布式系统中的负载均衡研究。

2. 模型-芯片协同设计方法论,如何量化评估架构对齐度指标。

政策建议方向

1. 建议制定大模型能效比国家标准,参照Step-3的千元电费/百万次推理基准。

2. 产学研合作机制创新,参考模芯联盟的“联合实验室+专利池”运作模式。

返回默认

声明:快读内容全程由AI生成,请注意甄别信息。如您发现问题,请发送邮件至 run@ebrun.com 。

我是 品牌商 卖家 工厂 服务商 平台商 研究者 帮我再读一遍。

【亿邦原创】在2025世界人工智能大会(简称“WAIC 2025”)开幕前夕,阶跃星辰在上海正式发布了新一代基础大模型——Step 3。阶跃星辰CEO姜大昕给Step-3的定位是“最强开源多模态模型”,是“面向推理时代打造最适合应用的模型”,也是“最适配国产芯片”的大模型。

这几个定语都很有意思。

什么是“最强开源多模态模型”?Step 3是阶跃星辰首个全尺寸、原生多模态推理模型,兼顾模型效果与推理成本,是在模型架构创新、算法工程协同设计上的一次大胆尝试与Scale Up。Step 3采用MoE架构,总参数量321B,激活参数量38B。

什么是“面向推理时代打造最适合应用的模型”?这强调的是模型厂商的重心正在从单纯追求“更大更强”转向“更优更实用”。“性能的提升固然显著,但这是否完全等同于模型价值?”姜大昕的这一反问,直指行业核心。答案显然是否定的。

2025年,大模型行业已经过了“秀肌肉”的阶段,开始进入真正的“深水区”。这个深水区,核心在于“应用为王”。为了服务应用场景,姜大昕提出的“强智能、低成本、可开源和多模态”四大特征,不再是孤立的技术指标,而是构成了一个面向应用场景的综合性评价体系。

为了应对推理时代的挑战,阶跃星辰在Step 3的设计上做出了重要的技术决策。

首先,Step 3采用了MoE(Mixture of Experts)架构,总参数量达321B,激活参数量38B。MoE架构在保持高性能的同时,能够有效降低推理时的计算量,从而实现成本优化。

其次,也是最关键的创新点,在于Step 3通过系统性的技术创新,实现了行业领先的推理解码效率 。发布会上,阶跃星辰展示的数据令人印象深刻:根据原理分析,Step 3在国产芯片上的推理效率最高可达DeepSeek-R1的300% 。在基于NVIDIA Hopper架构的芯片进行分布式推理时,实测Step 3相较于DeepSeek-R1的吞吐量提升超70% 。这些成果是在不牺牲激活参数量、不降低注意力容量的条件下实现的,充分验证了Step 3在多种硬件环境下部署,均能显著降低推理成本的普适性 。

这一决策不仅体现了阶跃星辰在模型架构和算法工程协同设计上的大胆尝试。正如燧原科技创始人、董事长兼CEO赵立东所言:“当我们的模型也好,包括芯片企业也好,如果想长期、可持续性发展就要实现从技术产品的闭环到商业化闭环,换句话说要降低成本要赚钱,不然就不可持续。”

在此基础上,Step-3“最适配国产芯片”。长期以来,模型和芯片之间存在着一定的“适配鸿沟”。国产芯片厂商在追赶国际先进水平的同时,需要大模型厂商的适配和优化;而大模型厂商则受制于算力成本和供应链安全。这种“各自为战”的局面,不仅影响了整体效率,也增加了产业发展的风险。

发布会上,阶跃星辰邀请了近10家国内领先的芯片、平台厂商共同发起成立了“模芯生态创新联盟”,旨在通过推动模型和芯片产业链的联合创新,加速大模型应用的落地。首批成员包括华为昇腾、沐曦、壁仞科技、燧原科技、天数智芯、无问芯穹、寒武纪、摩尔线程、硅基流动等国内顶尖企业 。

沐曦集成电路创始人、董事长兼总经理陈维良表示,阶跃星辰Step 3对国产芯片的深入了解和优化,指出了“模芯”紧密合作的道路,并认为芯片企业和模型企业需要在更深度的算子优化上做更多的事情,更开放地合作 。天数智芯董事长兼CEO盖鲁江也强调,当前国内应用场景到大模型、到芯片公司,没有统一的标准和规范,适配成本高,通过联盟可以建立统一的规范和标准,省去大量前期投入和适配成本 。

阶跃星辰Step 3的发布会,让我们看到了中国大模型产业在2025年所面临的挑战——成本、供应链、落地难,以及所抓住的机遇——推理时代、国产替代、应用爆发。此次发布会所展现出的“模芯”协同、开源普惠、应用为王、以及资本与产业深度融合的趋势,都指向了一个清晰的方向:中国AI产业正在从技术探索走向产业落地。

亿邦持续追踪报道该情报,如想了解更多与本文相关信息,请扫码关注作者微信。

文章来源:亿邦动力

广告
微信
朋友圈

FAQ回顾

阶跃星辰Step 3大模型有哪些核心特性?

Step 3采用MoE架构,总参数量321B,激活参数量38B,具备强智能、低成本、可开源和多模态四大特征,旨在实现高性能与推理成本优化的平衡。

Step 3大模型如何优化推理成本?

通过MoE架构降低计算量,并在国产芯片上实现最高300%的推理效率提升,在NVIDIA芯片上吞吐量提升超70%,显著降低部署成本。

模芯生态创新联盟有哪些成员和目标?

联盟由华为昇腾、沐曦等近10家芯片厂商组成,旨在建立统一标准,推动模型与芯片产业链协同创新,降低适配成本,加速应用落地。

这么好看,分享一下?

朋友圈 分享

APP内打开

赞 +1
+1
微信好友 朋友圈 新浪微博 QQ空间
关闭
收藏成功
发送
/140 0