可支撑20个千亿大模型训练, 商汤大装置拿下“全国首个”

南方+客户端2024-06-21 17:13:01  141

21日,商汤科技宣布,日前经过中国电子技术标准化研究院专家审核,商汤科技通过算力服务能力成熟度(CPMM)增强级评估,并成为首个通过该评估的企业。

该标准根据新形势下对算力基础设施发展重点,面向算力服务提供方从人员、技术、资源和流程四个方面提出了算力服务能力在计算力、存力、运力、资源协同、数据可信处理及管理、算法和模型、云化及服务保障能力和绿色低碳等要求,旨在提升算力服务提供方的综合竞争力。同时,该标准可有效支撑行业主管部门,全面了解当前我国算力服务能力水平,并提供标准化、可视化支撑。

自2022年CPMM立项以来,商汤科技深入参与了该标准的编制和应用工作,并将该标准作为自身在算力服务能力建设的发展路径,同时作为首个企业参与了标准评估,成功通过算力服务成熟度(CPMM)增强级评估。

商汤大装置作为高效率、低成本、规模化的新一代AI基础设施,目前总算力规模高达12000petaFLOPS,可支撑超过20个千亿超大模型同时训练,并支持万亿参数大模型的全生命周期生成。

此外,商汤大装置还从能源、技术和管理等层面,采取了多种能源优化措施,年均PUE优化至1.28,使其功耗比国内其他数据中心平均水平低约10%,助力“双碳”目标实现。

国际知名调研机构弗若斯特沙利文(Frost&Sullivan)联合头豹研究院发布的《2023年中国AI开发平台市场报告》给出结论,商汤科技在增长指数和创新指数两大评估维度综合评分中位列国内第一,全球第二,仅次于亚马逊。

南方+记者郜小平

[作者]郜小平

[来源]南方报业传媒集团南方+客户端

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/784696.html
0
最新回复(1)