百度智能云于6月6日在成都召开文心大模型技术交流会,并且发布了Comate代码助手,正式开放邀测。此次发布的代码助手可以实现代码的快速补齐、自然语言推荐代码、自动查找代码错误,全面提升开发者研发效率。开发者可以通过插件等形式,在主流开发软件中使用Comate代码助手。
Comate的研发最早可以追溯到2021年,当时百度云在基于文心大模型进行代码辅助工具的研究,2022年4月,Comate进行了内测,2022年9月代码辅助工具开始在百度内部开发中全面应用。
Comate代码助手背后是高质量Github代码库以及百度内部代码的积累。目前,Comate覆盖了30余种编程语言,包含C/C++、Python、Java等多个主流语言。此外,Comate支持程序员最常使用的主流IDE,开发者可以通过插件等形式,在不同软件中使用Comate。Comate可确保推理单次请求300ms左右。
文心千帆大模型平台是一站式企业级大模型平台,能够提供包括文心一言在内的大模型服务,提供开发AI应用的各种工具链及整套环境,还支持各类第三方的开源和闭源的大模型。此次,文心千帆也进行了最新升级,推出了文心一言的高性能模式——ErnieBot-turbo,并在数据标注、调优、插件市场和服务部署方向进行全面迭代。
借助ErnieBot-turbo大模型,一方面可以批量生成标注数据,大大降低数据标注成本;另一方面在一些高频、核心场景,其推理服务的整体性总共提升了50倍。百度透露,文心千帆将开放插件协议,能够让第三方企业基于插件协议共享插件。
未来,基于文心千帆不断的升级,百度也将把大模型商业化落地真正落地到不同场景。目前,面向企业市场,文心千帆有公有云服务和私有化部署两种落地模式。其中,公有云提供推理、微调、托管三种服务模式面向不同开发能力和不同需求的企业和开发者。私有化部署支持软件授权、软硬一体、租赁服务三种交付模式。
文章来源:亿邦动力