广告
加载中

字节凶猛:豆包大模型正式亮相 一出手就是行业最低价

胡镤心 2024/05/16 18:47

【亿邦原创】字节跳动的自研大模型终于揭开面纱。

2024年5月15日,在火山引擎FORCE大会上,火山引擎总裁谭待将字节的豆包大模型家族推到镁光灯前。相较于2023年4月发布的百度文心大模型,5月发布的阿里通义大模型,6月发布的华为盘古大模型,7月发布的腾讯混元大模型,8月发布的京东灵犀大模型,字节自研的云雀大模型尽管出现在《生成式人工智能服务管理暂行办法》备案中,但一直隐身在字节内部。

还好豆包大模型的能力依然满足期待。依赖字节内部丰富的使用场景,甫一面世的豆包大模型已经日均处理1200亿Tokens本文,日生成图片超3000万张,月度活跃用户达到2600万,创建超过800万个智能体。

豆包家族也是组团参战,同时面世的家族成员还有:通用模型Pro、通用模型Lite、角色扮演模型、语音识别模型、语音合成模型、声音复刻模型、文生图模型、Function Call模型、向量模型。

更重要的是,豆包将大模型行业的价格战带到台前。火山引擎总裁谭待当场宣布,豆包主力模型在企业市场的定价只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字,比行业便宜99.3%,“大模型从以‘分’计价到以‘厘’计价,将助力企业以更低的成本加速业务创新。”谭待表示。

1、大模型价格战来了

火山引擎将豆包的定价瞒到最后一刻。

谭待透露,5月14日现场彩排时,PPT上关于豆包的定价还是空白。“我们自己的同学也不知道最终定价。”

关于本次定价,火山引擎内部早有讨论,谭待解释豆包大模型的定价逻辑是,“第一,我们能做到,第二,市场需要。”

“我们不会通过亏损来做这件事。”谭待再三强调,“toB业务需要长期主义,用亏损换收入不可持续,所以我们从来不走这条路子,降价是因为技术够好。”

技术能力来自日均1200亿Token使用量的打磨。谭待解释,豆包大模型的训练算法足够好,大模型的推理能力从单机推走向分布式推理,异构算力、不同负载的混合调度,都在有力地帮助火山引擎降低成本。

最终,火山引擎给出32k主力模型每千Token0.8厘的定价,比市场其他主力模型的定价降低90%以上。

从客户角度看,1块钱能买到多少token,能完成什么工作

谭待算了笔账,1块钱可以从GPT4-32k买到2400个token,如果选择国内模型,能得到8000多个Token。如果用Llama开源模型,能买到3万个Token。如果用豆包大模型,1块钱就能买到125万个Token。这是什么概念?《三国演义》共只有75万字,1块钱可以处理3本《三国演义》的文字量。

2、豆包和它的产品逻辑

在过去一年里,字节内部50多个业务已经使用豆包进行AI创新,截至目前,豆包上有超过2600万月活用户和800多万个被用户创建出来的智能体。

豆包为什么能被快速使用起来?火山引擎副总裁朱骏解释,豆包有三个核心设计原则,第一就是“拟人化”,要让用户在使用产品时感觉有类似人的温度。比如豆包这个名字,就像亲密朋友日常称呼的昵称。

第二条设计原则,嵌入用户的不同使用环境。

不管是手机端、PC端还是网页端都有豆包的应用,甚至在用户读PDF或者写代码时,豆包桌面插件能够通过划词选中的方式,被用户在任何地方唤起,帮助用户就近解决任务,例如基于PDF的总结和问答,在编程时生成代码注释或者修改代码等。

同时,为了让豆包在移动场景里交互方便,团队很早开始大力度优化语音交互体验,包括基于大模型的ASR和超自然的TTS音色,尽量做到类似和一个真人对话的感受。

第三个设计原则,“个性化”

虽然通用大模型能解决很多任务,但用户还是有自己的个性化需求,包括对智能体的功能定位、回答风格、声音、形象、记忆等。

朱骏判断,在未来世界里,用户大概率会有一个主要的智能体(比如豆包)做最高频互动,解决很多任务,也会因为个性化、多样化的需要,和很多其他的智能体互动。

对于那些更复杂、更个性化的智能体,火山引擎提供了一个智能体定义平台“扣子”,可以通过自然语言轻松定义智能体,也支持通过工作流、代码、插件,赋予智能体更强、更稳定的能力。

朱骏认为,做大模型产品的挑战和乐趣是,不仅要关注大模型现在能解决好什么任务,还要尝试试预测半年、一年后,大模型大概能把什么样的任务解决好。在持续动态的技术发展中,不断去判断下一个产品的PMF(产品市场匹配点)可能是什么。

3、大模型应用,从降低门槛开始

那么在当下,大模型能解决什么问题?

谭待认为,大模型的应用场景首先发生在终端产品的交互上。

比如OPPO通过大模型提升手机助手的服务能力,新能源汽车则通过大模型优化车内的语音服务。“和终端硬件相关的行业,和AI结合会比较快,所有新技术刚开始都会现在终端上进行一次大革新。”所以,火山引擎分别和手机、汽车行业成立行业联盟,集中做好行业服务。

其次,在一些应用场景不是特别清晰的行业,火山引擎会寻找有想法的企业进行深度合作。

第三,服务好开发者,激励开发者作出不一样的创新。“大模型应用不是一两个天才做出来的,它需要一堆人的群体智慧,所以要让更多人参与进来。”

由此,谭待倒推出火山引擎要做的事情:第一,必须要有一个低代码生态,让开发者方便参与。比如在火山引擎的扣子开发平台,5年级小朋友都可以通过扣子作出智能体的应用。

其次,把模型的使用成本降得足够低,降低企业和开发者的试错成本,提高尝试意愿。“你作为一个企业创始人,花1万元用大模型可能会觉得有点贵,现在我们把成本降到1%都不到,100元就能干一个事情,这样才能把大模型应用做起来。”

对于豆包大模型在行业中引发的关注,谭待认为,现在的大模型还谈不上什么激烈竞争,因为市场还在初期,核心还是把模型做好,把应用做好,把成本降低,让更多人用起来。“降价之后就是应用的爆发,我觉得火山最重要的十七个,就是和大家一起把最佳实践做好,把市场做大。”

文章来源:亿邦动力

广告
微信
朋友圈

这么好看,分享一下?

朋友圈 分享

APP内打开

+1
+1
微信好友 朋友圈 新浪微博 QQ空间
关闭
收藏成功
发送
/140 0