详情

全国首个5A级智算中心在上海诞生,让AI大模型训练更高效便捷|产业创新

来源:上海经信委2024/10/11 8:43:4012
导读
近日举行的2024中国算力大会上,中国信息通信研究院发布了《中国综合算力指数(2024年)》和智算中心算力性能等级认证结果。
  近日举行的2024中国算力大会上,中国信息通信研究院发布了《中国综合算力指数(2024年)》和智算中心算力性能等级认证结果。报告显示,截至去年底,全球算力基础设施总规模达到910 EFLOPS(EFLOPS:每秒执行10的18次方次浮点运算),同比增长40%。美国、中国算力基础设施规模位列前两名,算力占比分别为32%、26%。商汤临港人工智能计算中心(AIDC)获得全国首个5A级智算中心算力性能认证。
 
  中国信息通信研究院院长余晓晖介绍,近年来,我国算力结构不断调整,智算规模增长势头强劲;存力规模持续扩大,先进占比不断提升;运力质量显著提升,网络设施不断升级。截至今年6月,我国在用算力中心超过830万标准机架,算力规模达246 EFLOPS,智算同比增速超过65%。
 
  从省级行政区来看,综合算力指数排名前10位的依次是河北、广东、上海、江苏、北京、浙江、山东、山西、内蒙古和宁夏。其中,北京、上海、广东和江苏连续3年跻身前5位。
 
  在上海自贸区临港新片区,商汤智算中心通过理论算力、有效算力、算力能效、业务模型场景支持能力、加分项等5个维度的技术评测,获得5A级智算中心算力性能认证,成为国内智算中心建设的“样板间”。
 
  商汤科技董事长兼首席执行官徐立介绍,这个项目一期投资56亿元,主要建设园区智算大楼与科研行政大楼,用于AI智算中心平台硬件搭建、平台软件、平台管理系统和大模型应用等多领域研发项目占地87亩,整体规划建筑面积13万平方米,一期已建成7万平方米。
 
  目前,商汤大装置管理的算力已实现全国联网的统一调度,在上海、深圳、广州、福州、济南、重庆等地都拓展了新的计算节点,截至今年7月,总算力规模达到20000 PFLOPS(PFLOPS:每秒执行10的15次方次浮点运算),已有5.4万块GPU,其中上海临港智算中心的算力为14000 PFLOPS,远远超出立项规划的3740 PFLOPS算力总量。
 
  算力的远超规划,与人工智能大模型的兴起有关。经过持续扩容,商汤临港智算中心的算力可支撑超过20个千亿参数超大模型同时训练,并支持万亿参数大模型的全生命周期生成。
 
  在硬件技术上,智算中心实现了万卡的超大集群互联,并保持90%的加速效率。在训练稳定性上,具备超30天不间断训练AI大模型的能力;出现训练间断时,诊断恢复时长已缩短至半小时。
 
  在软件技术上,商汤大装置与“日日新”大模型体系的集合,重构了算法的供给模式。通过提供“日日新”基础模型,各行各业的用户只需在此基础上进行微调或增量训练,就可以高效率地开发出符合自身需求的行业模型。这种服务实现了算法的基础设施化,与算力基础设施的服务配套,让国内各种行业大模型的开发更为高效、便捷。

版权与免责声明:凡本网注明“来源:兴旺宝”的所有作品,均为浙江兴旺宝明通网络有限公司-兴旺宝合法拥有版 权或有权使用的作品,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:兴旺宝”。违反上述声明者,本网将追究其相关法律责任。 本网转载并注明自其它来源(非兴旺宝)的作品,目的在于传递更多信息,并不代表本网赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品第一来源,并自负版权等法律责任。 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

展开全部
热门评论