性能阉割的英伟达H20国内大卖? 更像是无稽之谈

三易生活2024-07-16 20:50:05  75

如今的国内互联网圈,几乎到离开AI就不会做产品的地步。不过AI需要算力的支持,而算力则来源于英伟达H100/H20、华为昇腾910、 AMD MI210/M300等“算力卡”。作为AI时代的基石,为了更好地打造AI大模型,国内互联网厂商对于购买算力卡几乎就有了永无止境的诉求。

在国产算力卡产能不足、英伟达的高性能算力卡受到出口限制的情况下,偏偏一众国内大厂为了持续迭代自己的大模型,对于算力几乎就如同饕餮一般贪婪。这样一来,在算力供需失衡时,就有人开始炒作国内公司正大手笔购买英伟达专供中国市场的H20,并称这款性能只有H100五分之一的芯片在国内市场大卖。

那么问题就来了,国内厂商真的是在挥舞着钞票购买性能大幅度缩水的H20吗?截止本文发稿前,尚无明确证据表明H20的订单迎来了爆发式增长。而热炒英伟达H20大卖,则是从摩根士丹利的一篇报告中引申而来,在相关报告中摩根士丹利方面表示,英伟达特供中国市场的人工智能算力芯片H20,已经开始吸引包括百度、阿里巴巴、腾讯和字节跳动在内中国科技巨头的采购兴趣。

“采购兴趣”这个词本身就很暧昧,而摩根士丹利之所以会用如此模棱两可的表述,是因为它们的这份报告也是在半导体咨询公司SemiAnalysis相关报告的基础上得来。SemiAnalysis在这份付费报告中预测,英伟达方面今年有望交付超过100万颗H20芯片。毫无疑问这个数字十分惊人,与此前传言中的“客户正在观望”,以及“英伟达计划下调H20价格”的消息更是截然相反。

那么问题就来了,即便是最理想的情况,英伟达能在今年向客户交付100万颗H20芯片吗?开宗明义,这一预测大概率是过于高估市场需求了。众所周知,H20作为H100的阉割版,英伟达在美国出口管制政策下为中国市场定制的产品,其最高的理论性能可达296TFlops(每秒浮点运算次数),显存容量增大至96GB、带宽为4.0Tb/s,性能密度只有2.9。

反观英伟达目前在售的H100,它的算力则达到了1979TFlops,性能密度更是高达19.4。目前,H20的售价大约在1.1万-1.3万美元之间,而H100的价格综合马斯克等人的说法,单颗芯片的价格在3万美元左右。如果再算上水电成本,相比于H100,H20的性价比几乎是低到不忍直视。显而易见,能买到H100的欧美企业肯定不会去买H20,后者的目标受众几乎只有国内厂商。

但问题是如果英伟达真的能卖给国内厂商100万颗H20,就意味着我国算力中心总体在用机架规模会在2024年增长125%以上。据中国信通院的统计数据显示,截至2023年,全国在用算力中心机架总规模超过810万标准机架,算力总规模达230EFlops。作为算力单位,1EFlops=100万TFlops,100万颗H20的算力就是296EFlops。即使是在对AI大模型更狂热的2023年,国内算力中心总体在用机架规模也仅仅只增长了20%。

在互联网行业的寒冬中逆周期扩张并不是不行,但指望大厂能推动算力市场规模翻一番恐怕是不太现实的。更何况H20这张算力卡本身就属于老黄刀法精湛的代表,其最关键的问题是性能密度相比H100有着断崖式的下降,从而导致使用成本大幅度上涨,训练大模型效率更是非常糟糕。实际上,拥有大容量显存带宽、低性能密度、NVLINK的H20更适用于推理,而不是用于大模型的训练。

要知道,在去年美国出台算力出口限制之前,国内互联网厂商已经采购了大量的英伟达H100、A100、A800等算力卡,腾讯、阿里、百度、字节跳动等大厂,乃至其他中小厂商手中都有多个千卡算力集群,这也是“百模大战”能够迅速开打的原因。H100/A100的存量算力以及开足马力生产的华为昇腾910系列,也让H20作为算力卡使用时并不具备太多市场竞争力。

更为致命的是,经过了去年百模大战的洗礼,2024年几乎所有AI赛道的参与者都在迭代大模型这件事较为保守,暂时还看不到有哪家对其有迫切的需求。在这种情况下,相关厂商更不太可能顶着超低的性价比去大批量购买H20。考虑到头部厂商已经上线了文心一言、混元助手等面向消费端的AI产品,线上推理需求也十分巨大,因此H20看起来似乎可以用于推理用途。

可英伟达特供国内的算力卡不仅仅有H20,还有定位更低的PCIe L20和PCIe L2。如果用于推理,价格更便宜的L20、L2就已经能解决问题了。尽管比上不足、比下有余是H20的一大特征,但是在企业级市场恰恰就不存在什么所谓的“甜点卡”。

关于H20在国内市场大卖这件事是伪命题,其实还有一个侧面的证明途径,那就是通过闲鱼这样的二手交易平台。目前,闲鱼上一台英伟达H20 SXM整机的价格并没有出现大幅上涨的情况,反而稳定在100万-120万人民币区间横盘。所以无论是从何种角度来看,H20今年想要在国内大卖100万颗,似乎都不具备太多现实基础。

似乎只有一种可能会导致性能阉割、性价比低的H20在国内大卖,那就是OpenAI不仅提前到2024年发布GPT-5,而且GPT-5还达到了OpenAI创建的AI分级系统的第三级,即能够代表用户采取行动的人工智能代理的水平。就像ChatGPT让国内厂商大量购买A100、H100,更新更进步的GPT-5也能担此大任。可问题就来了,GPT-5真的有这个能力吗?

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/903215.html
0
随机主题
吴绮莉曾称家门永远向女儿敞开, 晒切蒜视频遭嘲, 被问怎么沦落了长安第三代CS75 PLUS 智电iDD阵容强大却口碑皆输的10大烂片, 全看过的我是服了24年,叶挺向李秀文提亲失败,未来岳父:你什么时候当了团长再来一周致命骚乱后, 马克龙亲赴海外领地: 设立一个“特派团”假吃演员们! 求求你们学学《庆余年2》付辛博是怎么演干饭戏的吧斗破苍穹: 五位年轻一辈的佼佼者, 萧炎晋升六星斗圣, 萧薰儿第二DNF: 新副本传奇页游风, 记录室钥匙千万留好! 每周7次奖励拉满搞笑配音:老美对日本提供核武器,没想到竟然要收三十亿保护费3950解禁之后a5还是这么能打?得了,预算不够的话还是选他把。迈从a5纯电续航“虚标王”? 懂车帝实测长安UNI-Z纯电续航达成率1《在华德企ESG实践报告 2023》发布双人封神局!火箭防守坚若磐石,马叔进攻无孔不入数据: 4个希腊人当中就有1个老人里程碑! 德约2-0完胜德国悍将旗开得胜, 生日夜手捧蛋糕乐开怀澳洲人懒到什么极致程度? 一张照片刷爆全球, 拿下世界之最郭德纲讽刺同行有多狠?相声没落全因同行太差劲看了年轻时的卡米拉, 才发现, 查尔斯对她念念不忘果然是有原因的“山鸡”真成“凤凰”? 梅根的尼日利亚之行尽显英国“老钱”风森林狼大战独行侠! 李凯尔1分钟砍7分 唐斯打铁 麦克丹尼尔斯爆发求新、求变的《梦幻西游》追求的是有血有肉的角色!
最新回复(3)