AMD 新款 Instinct MI325X 加速卡发布 性能大幅提升

中关村在线2024-10-11 09:30:00  109

10月11日,AMD公司在“AdvancingAI”大会上推出了新的InstinctMI325X加速卡。这款加速卡基于CDNA3架构,相较于旧款MI300X带来了一系列改进。旨在应对万亿参数的AI模型,AMD着重提升了HBM3E内存和计算能力。

规格和性能方面,MI325X加速卡配备了256GB的HBM3E内存,容量是MI300(192GB)的1.8倍,带宽更是达到了6TB/s。在FP16训练和推理下达到1.3PetaFLOPS,在FP8训练和推理下达到2.6PetaFLOPS,较MI300提升了约1.3倍。所有这些功能都集于一个拥有约1530亿个晶体管的芯片中。

此外,配备八个MI325X加速器的系统可实现20TB的HBM3E内存和高达48TB/s的带宽。预计该系统的计算性能将达到FP16计算性能约10.4PetaFLOPS和FP8计算性能约20.8PetaFLOPS。据AMD描述,在内存带宽、FP16/FP8计算性能上超越NVIDIAH200HGX系统约1.3倍,内存容量上超越约1.8倍。

除此之外,AMD表示正在与开源社区合作,将PyTorch、Triton、ONNX等框架的功能整合到ROCm堆栈中,并计划将其引入每款GPU中(包括消费级GPU)。公司还透露将于下半年推出基于TSMC3纳米工艺的CDNA4InstinctMI355X加速器。

AMD正努力提高其AI加速产品的性能,并与社区紧密合作以不断优化软件开发环境。

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/1350026.html
0
随机主题
我国发布全球首个开源大规模片上互联网络 IP“温榆河”西安举办2024年国际生物多样性日主题宣传活动陈幸同混双击败张本美和, 陈熠击败林依诺, 赵大成击败薛飞莱希坠机原因找到了?或离不开这一国,细节罕见公布,局势恐变天国外渔民用砗磲壳做陷阱,沉到海底珊瑚缝抓东星斑,大家见识一下多功能跨界自动挡弯梁ADV——力腾190, 正式命名为军刀并开始盲定快递站里、电视里、超市小票里都能见到, 为了这件事, 杭州桐庐消防拼了药厂全队梦游遭完爆, 不败金身被破“龙圣”坠入凡间39秒71夺亚洲冠军! 中国短跑接力再创历史, 苏炳添队友们厉害了乌军7天阵亡近1万人, 俄军杀入恰索夫亚尔城内, 所到之处全炸平听我的劝告: 早入手小米14 Pro的人别轻易看价格, 你会后悔美联储降息态度再转变,黄金迎上车机遇?美股三大指数集体收跌 贵金属板块跌幅居前法国宣布试射空射核导弹cos 从零开始的异世界生活 爱蜜莉雅齐商银行: 以便利化支付提升金融服务水平苹果手机尾插口不好用怎么办?你先别急着换,看完视频再打算!青发控股集团: 贸易创新为高水平开放助力欧文: 我时刻提醒队友失败是什么感觉 登顶夺冠又是什么感觉前央视主持离世, 曾解说中国女排夺冠成名, 与郎平魏秋月等是好友阿隆索颁奖典礼一个举动让人感动!优雅少帅、未来可期
最新回复(1)