百度智能云千帆大模型平台推出2.0版本:四大方面改进

业界
2023
09/05
12:22
IT之家
分享
评论

9 月 5 日消息,在今日举办的 2023 百度云智大会上,百度智能云宣布千帆大模型平台 2.0 全面升级发布。

据百度云官方介绍,千帆大模型平台 2.0 升级带来了多项改进:

在工具链方面,大模型开发、训练、部署、应用开发各个环节是紧密结合的。据介绍,千帆整套的工具链可以无缝衔接全生命周期的各个业务流程,最大化提升效率。以前,技术团队一个月才能调试、跑通看到大模型的效果,在千帆一站式工具链平台,当天就可以实现。

在算力效能方面,千帆底层是一套集合了异构算力集群、高速互联的网络、高性能存储,能够支撑万卡规模训练的 AI 算力基础设施,可将大模型训练、推理的成本降到最低。

在数据方面,千帆不仅纳管大模型,还可增强大模型的能力。本次全新升级中文增强,可大幅提升大模型中文理解和生成能力,例如 LIama2 的国外大模型,也可实现中文对话好的效果。同时还全面提升训练和推理性能,训练 LlaMA 2 的总体吞吐可以提升 1/4,推理甚至能提升 3 倍。

在企业级安全方面,通过千帆的安全机制,企业能够构建四层安全防线,全方位保障大模型的内容安全、数据安全和系统安全。对合规要求很高的客户,千帆支持国内、国外主流芯片和操作系统,也支持私有化部署,确保每个企业自己的大模型都自主可控。

此外,在 2023 百度云智大会上,百度集团执行副总裁、百度智能云事业群总裁沈抖表示,截至目前百度网盘“云一朵”智能助理累积使用人数已经超过 600 万。

IT之家注:千帆大模型平台是百度智能云推出的一站式企业级大模型平台,可以为企业提供大模型开发全流程工具链和整套环境,号称可以“让企业高效率、低成本地拥抱大模型”。

8 月初,千帆大模型平台完成第一轮升级,全面接入了 LLaMA2 全系列、ChatGLM2 等 33 个大模型,成为国内拥有最多大模型的平台;同时,千帆大模型平台上线 103 个预置 Prompt 模板,覆盖对话、编程、电商十余个场景。

而现在,千帆大模型平台纳管的国内外主流大模型达到了 42 个再创新高,还预置了 41 个有行业特色的数据集,月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的 400 多个业务场景。

【来源:IT之家

THE END
广告、内容合作请点击这里 寻求合作
百度智能云
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

3 月 27 日消息,今天早些时候有消息称,百度智能云原定今日(3 月 27 日)举行新品发布会,发布系列“文心一言”相关的云服务和应用产品。
业界
5月30日消息,2019 ABC Inspire智能物联网峰会上,百度智能云宣布其天工物联网平台全新升级,同时在边云融合、时空洞察和数据智能等三大领域发布了9大新产品。此外,百度智能云还宣布多项建设IoT生态新措...
原创
5月30日消息,2019 ABC Inspire智能物联网峰会上,百度智能云宣布其天工物联网平台全新升级,同时在边云融合、时空洞察和数据智能等三大领域发布了9大新产品。此外,百度智能云还宣布多项建设IoT生态新措...
业界
据了解,百度智能云在大会一口气推出了涉及主机、计算、网络、存储、数据库、安全等的14款ABC新产品,例如,百度智能云的存储新产品BTS,动态加速CDN新产品等等。
业界

相关推荐

1
3