日前,百度 AI 正式宣布,旗下文心 4.5 系列模型正式开源,共计 10 款模型开源,涵盖了激活参数规模分别为 47B 和 3B 的 MoE 模型,以及 0.3B 的稠密参数模型。
据介绍,文心 4.5 系列模型均使用飞桨深度学习框架进行训练、推理和部署。该系列模型在多个文本和多模态基准测试中达到 SOTA 水平,在指令遵循、世界知识记忆、视觉理解和多模态推理任务上效果尤为突出。另外,模型权重按照 Apache 2.0 协议开源,支持开展学术研究和产业应用。
目前,文心 4.5 系列模型现可在文心一言进行体验。
另外,本次发布的全部模型(包括预训练权重和推理代码)和项目均已完全开源至 Hugging Face、GitHub、飞桨星河社区,技术报告也已公布查阅。
|