
中国经济网10月15日讯(记者 李方) 10月15日,由中国电子信息行业聚拢会主持的第27届中国外洋软件展览会在郑州举办。百度集团副总裁、深度学习时期及愚弄国度工程讨论中心副主任吴甜共享了大模子期间AI基础平台起首软件生态带来的新变化。她示意,大模子的爆发将东说念主工智能推向一个新的上升。
百度集团副总裁、深度学习时期及愚弄国度工程讨论中心副主任吴甜
在开幕式暨主题峰会轨范,吴甜示意,大模子具有用率好、泛化性强、研发历程尺度化等特色,正引颈东说念主工智能的发展。在这一阶段,AI研发范式带来了开拓、缱绻、部署的新挑战,尤其是大模子的高效进修和推理部署,需要软硬件协同发力。
她进一步讲到,大模子高效进修的关键身分包括进修隐晦、进修有用时期和管制遵循,这背后触及框架、芯片、集群、算法等软硬件不同组合的协同优化。对大模子的推理部署来说,遵循无损、低时延高隐晦、老本效益等身分极为关键,需要模子压缩与量化、并行推理、软硬件协同优化等时期的援救。
要管理大模子研发所带来的一系列挑战,深度学习平台关键需要具备大界限并行缱绻、高性能推理部署、全历程工程化三方面智力。以百度飞桨为例,手脚百度自研的产业级深度学习开源通达平台,飞桨从中枢框架、基础模子库,到端到端开拓套件、器具与组件,以及银河社区等,全观念援救了文心大模子的演进过程。飞桨在中枢框架和芯片之间构建了硬件适配层,打造多硬件联稳健配决策,已适配 60多款系列芯片,比较PyTorch,芯片基础适配的接口数减少56%,代码量减少80%。
在深度学习平台与大模子聚拢优化下,文心大模子的智力获取了拓展、遵循获取了普及,ERNIE-4.5-300B-A47B模子上齐备预进修MFU达47%, ERNIE-4.5-300B-A47B模子在TPOT 50ms时延条目下,齐备了输入57K tokens/秒、输出29K tokens/秒的高隐晦性能。文心想考模子X1.1比较上个版块,事实性普及34.8%,教唆奉命普及12.5%,智能体普及9.6%。
大模子与深度学习平台为科技改革和产业升级构筑了坚实的AI基础时期底座平台,但最终在九行八业芜俚愚弄起来,愚弄生态耕作至关遑急。
百度进行了模子及相应配套器具的开源。文心大模子4.5系列已开源11款模子,涵盖47B、3B激活参数的夹杂群众(MoE)模子,与0.3B参数的繁荣型模子,配套开源了文心大模子开拓套件ERNIEKit、大模子高效部署套件FastDeploy,便捷开拓者在此基础上齐备高效的模子开拓和部署,进而在更芜俚的行业加速AI的落地愚弄。
银河社区为开拓者提供全观念处事,已上线700万个奉行形势,600多门公开课以及400多场AI竞赛。开拓者也在愚弄中反过来激动AI基础时期平台的完善。现在,飞桨框架孝敬者俱乐部成员达到195位,飞桨开拓者时期群众411位,群众各地开拓者自主树立运营的飞桨领航团卓越400个。
在文心大模子和飞桨深度学习平台的基础上,百度在上海、广州、武汉、南京、宁波、厦门、南昌、无锡等多地落地产业赋能中心、数据生态中心和教学改革中心,加速区域产业智能化升级。举例,在制造行业,中车集团依托百度飞桨产业级深度学习平台以及飞桨科学缱绻 PaddleCFD 套件,改革性地构建了空气能源学智能化仿真大模子,全体仿真遵循普及30倍以上。在能源行业,国度电网聚拢百度打造的东说念主工智能基础格式,让安全巡检遵循普及了36倍。在通讯行业,中国联通推出的智能中心AI平台,助力1.3万座基站安全功课。
公开尊府泄露,限制2025年9月,飞桨文心生态开拓者已达到2333万开云体育,处事企业达到76万家。
