DeepSeek「掀桌」三个月以来,一场摆在台面上的大模型生态重构正在进行时。
一面是DeepSeek带动大模型走入公众视野,加速了开源模型的迭代,也客观上促进了部分闭源模型转向开源;另一面,随着模型轻量化与压缩技术突破,MoE架构成新宠,算法革新和模型优化下,全球大模型掀起了卷成本的新浪潮。
除此以外,从单模态到多模态,多模态大模型的技术突破,加速AI应用从工具向生产力转化,大模型正进入「深度应用」的下半场。
据OpenAI研究员姚顺雨的定义,上半场AI的发展主要是找到有效训练模型的方法,而下半场则需要找到可行的方案,让模型解决人们生活和工作中更实际的问题。
无独有偶,在近期刷屏的红杉AI峰会中,Pat Grady也预测,AI目前可以服务的市场规模已达到了万亿美元,而如何通往这个万亿美元世界,他在白板上写下的共识是:
“下一轮AI,卖的不是工具,而是收益。”
近期的京东云上海城市大会上,京东集团技术委员会主席、京东云事业部总裁曹鹏也认为,大模型已全面走向深度应用,他表示,数字员工的上岗率成为衡量一个企业先进性的标准。
国内外科技大厂的一致共识下,一场AI原生企业浪潮正在中国企业内部悄然发生。
随着大模型竞逐迈入第三年,DeepSeek引发大模型新一轮重构后,AI落地显然已从企业的估值故事,转化为了渗透实际经营环节提质增效的关键抓手。
当前,国内企业已基本实现了「用上大模型」阶段指标,而随着模型使用的深入,能否「用好大模型」,成为AI原生企业,则成为了这场AI军备竞赛中,下一阶段的胜负手。
不止一位企业管理者曾向「硅基研究室」提到,AI已成为企业向外寻求增长,对内提升效能的关键引擎。今年4月,一位软件厂商CEO向「硅基研究室」指出,他们今年的目标是成为一家AI原生企业,实现从员工到供应商的全员AI化。
不少CEO眼中,企业AI渗透率也已直接影响企业收益,不久前,电子商务巨头Shopify CEO Tobias Lütke就在一封内部信宣布全员必须掌握AI技能,将AI纳入绩效考核,在项目原型阶段就强制使用。
这和京东云的观察类似,尽管从行业来看大模型的新型企业还未出现,但在领先企业中的部分领域,AI已有了深入使用,微软首席执行官萨蒂亚·纳德拉也透露,微软内部代码中有大约20%到30%是由AI生成的。
京东云给出的判断是:“数字员工上岗率将成为衡量未来企业先进性的标准”。换言之,有多少工作是AI完成的,这将决定了企业未来能跑多快、走多远。
“AI原生”的迫切和焦虑背后,围绕如何用好AI,企业也面临不少挑战和困难——
据「硅基研究室」观察,成为一家AI原生企业,还存在两个需求鸿沟:
一是在短期需求上,企业端加速AI规模化需要借势「深度应用」,实现小马拉大车。高质量的应用落地不仅能迅速解决企业实际场景问题,带来看得见的利润收益,还能成为开启企业AI转型时代的钥匙。
二是在长期需求上,随着企业应用深入,势必对计算资源的需求有指数级增加,企业需要更可信赖、可持续和更具性价比的计算资源,这也意味着AI基础设施将走向优化重构。
这些痛点如何解决?谁能来解决?京东云给出了自己的答案。
想要成为一家AI原生企业,关键的一步还是找到能验证和实现AI价值落地的真实场景。
过去,大模型之于企业,无疑提供了一份通用的「标准答案」,但不同企业实际业务场景、行业know how也不同,大模型落地企业就像是用「瑞士军刀切牛排」,规模化部署复杂,场景选择难、技术门槛高,不仅无法降低AI的使用门槛,也阻碍了企业内部AI使用率的提升。
换言之,企业落地和挖掘大模型价值更需要的是一把「牛排刀」,这把「牛排刀」需要具备三个特点——
一是通用化,能理解和满足企业业务场景的主要通用需求;
二是轻量化,部署和落地成本低,操作和使用门槛低;
三是可用性,真正能赋能业务场景,带来看得见的业务收益;
更关键的是,这把「牛排刀」最好还能成为企业高频使用AI的「深度应用」,能带动企业后续AI的持续渗透和规模化落地。
从全球科技大厂的实践来看,智能体,正是深度应用方面最具代表性的方向,包括OpenAI、谷歌等玩家都在推动智能体深入企业服务、协同办公等诸多垂直领域。IDC也曾发布预测称,到2026年将有50%的中国500强数据团队使用AI Agent来实现数据准备和分析,并成为重要组织者和协调者。
京东集团技术委员会主席、京东云事业部总裁曹鹏也在演讲中提到:“随着大模型的全面升级,智能体也出现了一个新的技术性飞跃,从过去被动响应需求进化为能主动聚焦问题、精准运算、深度分析和智能决策、精准执行。
这基础上,京东云也顺势将多年积累的智能体能力,沉淀至全新升级的JoyAgent智能体2.0中,面向不同行业开放能力,支持更多企业进行深度探索。
相比通用智能体,京东云JoyAgent智能体2.0的进化逻辑更为复合。
一方面是在企业应用场景方面「化被动为主动」,更能干事。
除了能深度分析市场数据,生成全面精准的市场分析报告;JoyAgent还能进一步辅助业务人员执行专业的工作,某些场景甚至可以完全进行全流程的闭环运行。
当前,京东内部已部署超1.4万个智能体,承担了企业超过18%的工作内容,覆盖了外卖员招聘、财务管理等多个业务环节。
另一方面,针对单智能体难以开展的工作,JoyAgent也可以凭借自研的多智能体协同引擎,高效协作,通过共识算法快速达成决策,合力解决难题。
在GAIA Benchmark的Level 1-3测试中,JoyAgent表现卓越,尤其在复杂任务处理上优势明显,超越众多竞争对手,展现出了复杂、严肃商业场景下的商用价值。
上述能力,也由更多企业场景的具体落地案例为我们所揭示。比如在味全食品,京东云搭建的一套会议管理智能体系统,可以自动生成会议纪要,并分类归档,提升组织运转的效率;在中国飞机租赁,面对高专业度、高复杂性的知识查询需求,京东云以智能问答系统大幅提高员工的决策和响应速度。
在融资火热的AI编程领域,「硅基研究室」也观察到,当前AI编程也从「能写代码」转向「能交付特定业务价值」,以JoyCode智能编码助手为例,其不仅帮开发者预测代码、生成注释、进行智能评审,代码采纳率超过40%,开发周期缩短30%,还在上万名研发人员的高频使用中不断产生业务价值。
以高性价比、高转化特点广泛应用于直播领域的数字人也是如此。截至目前,京东数字人已在9000+商家开播,成为靠谱的「赛博打工人」。凭借高保真低成本的人体建模技术、多模态自然化行为生成等数字人全栈自研能力,京东云数字人也已实现大规模的商用落地,今年618京东云数字人还宣布向京东商家免费开放,破局更多商家的直播转化难题。
不难看出,AI深度应用,才是推动大模型深入千行百业的硬通货,越来越多的企业也早已对模型的参数祛魅,取而代之的是关注部署模型的性价比,以及与自身业务的融合。
这也倒逼模型厂商作出更多的改变,比如在医疗、金融等领域,普遍关注数据安全和可控性,京东云顺势推出的大模型一体机过去三个月已部署超500台,成为企业灵活本地化部署、深度应用AI的轻量化入口。
Gartner曾在报告中预测,到2026年,超过80%的企业将在生产环境中采用生成式AI的API、模型,并部署启用生成式AI的应用,从包括京东云在内的大厂实践来看,企业的这一梦想,正在变为现实。
应用场景侧取得的成效背后,对于很多中型和大型企业来说,随着未来AI应用越来越深入广泛,如何更高效的获取可信赖、可持续和更具性价比的计算资源,也随之成为了长期考题。
经过修缮和改造,跑绿皮火车的铁轨可以跑时速160公里的「和谐号」,但是面对时速300公里的「复兴号」,底层的轨道必须要围绕新技术重建。
AI智算的故事也是一样,随着大模型应用的深入,以CPU为中心的传统架构,在支持AI原生应用时已经左支右绌,行业迫切需要以GPU为中心重塑基础设施。
与此同时,面对激增的推理需求,企业也迫切需要更多高质价比的计算资源。
这基础上,如果说为一家企业输入高质量计算资源,只是交易问题,那么为一百家、一千家乃至一万家企业稳定供给计算资源,则势必牵动一场涉及产业架构重塑的供给改革。
在这场改革的前端,行业需要不断优化算力集群互联互通,锚定计算、存储、网络的「黄金三角」,助推大模型高效使用,而在改革的后端,行业则需要在硬件侧以GPU为中心重塑基础设施,并解决GPU本身型号多样带来的异构问题。
计算转向AI Native(AI原生)基础设施,这恰好也是京东云一直在思考的核心命题。
此次京东云上海城市大会上,他们就为行业带来了好消息。
一方面,在AI的基础设施层,京东云发布了以GPU为核心,高效异构计算的全新JoyScale AI算力平台。
相较于传统算力平台,JoyScale既能在宏观算力层面支持单集群万卡调度、全局超10万卡调度,并通过软硬件协同优化,将大模型算力利用率MFU从45%提升至75%;在具体应用层面,JoyScale适配十余家国产GPU产品,支持异构算力统一纳管、精细化运维,通过集群算力池化调度,提升集群利用率70%。
这一算力层居中调度的「指挥中枢」,配合基于京东全自研的云海AI存储,单集群支持TB级超大带宽,提供原生KV Cache特性,显著提升推理性能的存力「高速公路」运转效率,无疑让大模型的高效使用成为可能。
另一方面,在大模型开发应用层,全新推出的JoyBuild大模型开发计算平台,基于收录于Nature论文库中的大模型开发计算技术,首次系统性解决开放环境下大模型开发效率难题,不仅在实践中内置20余种开源模型和丰富的数据集,提供100余种算法和工具链,支持多类模型的调优开发,还可以帮助客户根据自身业务特征,用自有数据进行大模型的蒸馏,快速开发专属大模型。
此外,JoyBuild推理引擎还基于大规模专家并行推理集群技术,提升高并发下并行度,实现单Token推理成本降低80%,以实际行动输出普惠资源,助推千行百业的智能化转型。
从这个角度来说,在这个AI「深度应用」的时代,京东云不仅在产品和应用侧「授行业以鱼」,还在不断依托极致性能、极致性价比的技术与工具「授行业以渔」。
谋全局者,方可谋一域,汹涌澎湃的大模型浪潮中,没有企业能独善其身。而京东云所坚持的,就是以更开放、更协同的生态,助力更多企业重塑AI生产力,从而「赢在后天」。
文章来源:硅基研究室