百川智能发布超千亿参数大模型Baichuan 3,号称中文评测超越GPT-4

业界
2024
01/29
16:38
IT之家
分享
评论

1 月 29 日消息,百川智能今日发布超千亿参数的大语言模型 Baichuan 3,在 CMMLU、GAOKAO 和 AGI-Eval 等评测中,Baichuan 3 号称在中文任务上超越了 GPT-4。

图片

图片

在测试逻辑推理能力的 MCMLE、MedExam、CMExam 等医疗评测上,Baichuan 3 的中文效果同样号称超过了 GPT-4,是“中文医疗任务表现最佳的大模型”。

图片

据介绍,百川智能在 Baichuan 3 训练过程中提出了“动态数据选择”、“重要度保持”以及“异步 CheckPoint 存储”等多种技术手段及方案,稳定训练时间达到一个月以上,故障恢复时间不超过 10 分钟。

百川智能官方表示,Baichuan 3 还突破“迭代式强化学习”技术,进一步提升了语义理解和生成能力,在诗词创作的格式、韵律、表意等方面进行了提升,对于宋词这种格式多变,结构深细、韵律丰富的高难度文体,生成的内容亦能工整对仗、韵脚和谐,让每个人都能创作出咏物、寄思的五言律诗、七言绝句,写下的言志、抒情的“沁园春”、“定风波”。

图片

图片

百川智能成立于 2023 年 4 月 10 日,由前搜狗公司 CEO 王小川创立。目前 Baichuan 3 大模型已在百川智能官网上线。

【来源:IT之家】

THE END
广告、内容合作请点击这里 寻求合作
百川智能
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

10月30日消息,百川智能发布Baichuan2-192K大模型。其上下文窗口长度高达192K,能够处理约35万个汉字,是目前支持长上下文窗口最优秀大模型Claude2(支持100K上下文窗口,实测约8万字)的4.4倍,更是GPT-4...
业界

相关推荐

1
3