全球首个知识增强千亿大模型鹏城-百度·文心发布

12月8日，鹏城实验室与百度联合召开发布会，正式发布双方共同研发的全球首个知识增强千亿大模型——鹏城-百度·文心（模型版本号：ERNIE 3.0 Titan）。该模型参数规模达到2600亿，是目前全球最大中文单体模型，在60多项任务上取得最好效果。同时，百度产业级知识增强大模型“文心”全景图首次亮相，从技术自主创新和加速产业应用两方面，推动中国AI发展更进一步。

鹏城-百度·文心成功发布的背后，得益于鹏城实验室的算力系统“鹏城云脑Ⅱ”和飞桨深度学习平台的强强联手，解决了超大模型训练的多个公认技术难题，使鹏城-百度·文心训练效率大幅提升，模型效果更优。“鹏城云脑Ⅱ”是国产自主的首个E级AI算力平台，曾在多个国际性能测试上获得冠军。飞桨是我国首个自主研发的深度学习开源开放平台，研制了端到端自适应分布式训练框架，实现多硬件支持，并行效率高达90%，有效支持鹏城-百度·文心千亿大模型高效、稳定地训练。

为解决大模型应用落地难题，百度团队首创大模型在线蒸馏技术，模型参数压缩率可达99.98%。压缩版模型仅保留0.02%参数规模就能与原有模型效果相当，为产业大规模应用打开新窗口。

为促进产学研协“多轮驱动”，鹏城实验室与百度成立了鹏城-百度自然语言处理联合实验室，并以此为依托，资源共享、优势互补，在自然语言处理前沿研究和创新应用方面协同攻关，助力打造国家战略科技力量。本次联合发布的鹏城-百度·文心将进一步解决AI技术在产业应用中缺乏领域和场景化数据等关键难题。该模型将依托鹏城云脑Ⅱ对外开放，积极联合“产学研协”各方，充分挖掘AI大模型的赋能能力，助力科技创新，推动产业发展。

目前，百度文心通过百度飞桨平台陆续对外开源开放，并已大规模应用于百度搜索、信息流、智能音箱等互联网产品，同时通过百度智能云赋能工业、能源、金融、通信、媒体、教育等各行各业。