IBM将在其公共云中提供英特尔Gaudi 3人工智能芯片

Gaudi3的定位是替代英伟达公司最畅销的H100图形处理器。直到今年3月，在最新的GPUBlackwellB200推出之前，H100一直是英伟达的旗舰AI加速器。英特尔表示，Gaudi3的推理效能可以达到H100的2.3倍，可以让一些大型语言模型的训练时间更短。

英特尔于2019年收购初创公司，以此获得了人工智能处理器，Gaudi3是该系列的第三次迭代。该芯片使用了台积电5纳米节点。Gaudi3的处理能力由两块板载计算模块提供，分别为MME和TPC，它们分别针对不同任务进行了优化。

芯片的MME模块设计用于执行矩阵乘法运算。矩阵乘法是对按行和列排列的数字集合进行的数学计算，类似于电子表格中的字段。人工智能模型利用这种计算将输入数据转化为决策。

某些人工智能模型，如用于物体识别任务的模型，其大部分处理过程都是通过矩阵乘法完成的。大型语言模型等更高级的人工智能也使用其他类型的计算。Gaudi3的TPC模块（该芯片包含的第二类计算电路）针对这些其他计算进行了优化。

TPC基于所谓的超长指令字架构。这是一种经过优化的芯片设计，可并行执行多个计算。由于并行执行计算比逐个完成计算更快，Gaudi3的TPC有助于加快人工智能模型的性能。

Gaudi3包含64个TPC，几乎是前代产品的三倍。此外，MME（针对矩阵乘法进行优化的计算模块）的数量也是前者的四倍。芯片的逻辑电路配备了120GB内存池，其时钟速度高于英特尔上一代人工智能处理器的RAM。

该公司表示，Gaudi3中引入的升级将其处理BF16数据的最高速度提高到了1,835TFLOPS，即每秒万亿次计算。BF16是一种人工智能模型常用的信息存储数据格式。

性能的提升并不是Gaudi3唯一的卖点。它还有一个板载以太网模块，可将人工智能服务器中的Gaudi3处理器连接在一起，也可将多个此类服务器连接在一起。英特尔将芯片中单个以太网网络连接的带宽提高了一倍，达到每秒200Gb。

IBM计划明年初在IBMCloudVirtualServersforVPC中提供Gaudi3。这是该公司在其公共云平台中提供的计算实例。IBM还将在其watsonx产品套件中添加对Gaudi3的支持，该套件包括软件工具，企业可利用这些工具构建人工智能模型、在生产中部署这些模型并执行相关任务。