2023年9月21日上午,鹏城实验室主任、中国工程院院士高文在2023华为全联接大会上正式发布了“鹏城·脑海”(PengCheng Mind)通用AI大模型,以国产化基座大模型为新一代AI大模型发展构筑新基点。
高文主任介绍,“鹏城·脑海”通用AI大模型以稠密型架构实现2000亿参数,依托“鹏城云脑II”国产化AI算力平台进行全程预训练,采用了MindSpore昇思国产化深度学习框架,完善了大规模并行训练策略、底层算子性能和容错机制,显著提升了国产算力平台的训练效率,并构建了一套涵盖中文、英文及50余个“一带一路”沿线国家及地区语种的多样化语料数据集和数据质量评估工具集。本次发布的是以中文为核心的“鹏城·脑海”基础版,将在OpenI启智社区向全社会开源。
面向新一轮人工智能变革浪潮,在广东省和深圳市的统一部署下,在国家外文局、华为、腾讯等战略合作伙伴的联合支持下,鹏城实验室贯穿国产算力+自主大模型创新链,聚焦AI核心器件、算力设施、模型算法、训练系统等关键环节,持续推进“鹏城·脑海”大模型核心技术攻关。
高文主任强调,鹏城实验室正同步研制“中国算力网”(China Computing Network,C²Net)全国一体化算力协同计算调度平台,以深圳为总调度中心,已汇聚全国协同算力达3E规模。“鹏城·脑海”大模型将进一步依托“中国算力网”接入的协同算力,以“算力网算力调度+模型赋能”相结合的方式,携手国家新一代AI公共算力平台,共同推动国产化AI大模型的持续演进与部署应用,最终打造一个基于“中国算力网”的各类领域AI大模型及应用生态的数字化基座。与此同时,实验室将牵头成立“鹏城·脑海”开源联合体,广泛联合企业、高校和科研院所,通过这一全新的开源群智合作模式,“一揽子”提供覆盖压缩、部署、微调与价值对齐等环节的模型工具,并加强大模型的开源管理与资源共享,加速为千行百业插上人工智能的“翅膀”。
”今天的发布是国产AI大模型全新的起点。我们将陆续发布“鹏城·脑海”大模型进阶版、专业版等各个阶段的版本,持续满足我国不断增长的数字化转型需求,助力中国人工智能产业的快速崛起,并为全球人工智能变革提供一个来自东方古国的选择。“
“鹏城·脑海”大模型推广计划
“鹏城·脑海”大模型愿景
“鹏城·脑海”大模型(基础版)开源链接:https://openi.pcl.ac.cn/extension/mind
扫码了解脑海大模型更多信息