英伟达H100海外租金大降,是算力泡沫破裂吗?

一、英伟达H100海外租金下降现象
海外租金下降的消息来源
最近,一篇关于“英伟达H100GPU海外租金价格降至2美元/小时”的文章在国内广泛传播。这一消息最初源于美国一家AI推理服务供应商Featherless.AI的联合创始人EugeneCheah的撰文。他表示频繁收到算力租赁商的广告邮件,称单张英伟达H100GPU的租赁价格降至大约2美元/小时甚至更低。这与2023年5美元/小时左右的市场均价相比几近腰斩。这一现象引起了市场的广泛关注,人们开始对英伟达H100的价值以及整个算力市场的走向产生了诸多疑问。
与英伟达之前预测的对比
英伟达曾经预测,4美元/小时的GPU价格会在4年内保持不变。不到1年半的时间就出现了降价的情况。这一情况的出现与市场的变化和英伟达自身的发展有着密切的关系。随着科技的不断发展,市场竞争也日益激烈,英伟达可能也面临着一些之前未曾预料到的情况,才导致了价格提前下降。
二、个别初创公司促销与市场平均价格
个别公司促销价的目的
市场普遍认为“2美元/小时”甚至“1美元/小时”的价格,主要是LambdaLabs等个别初创算力租赁公司为吸引客户搞促销的手段。对于初创公司来说,它们在市场上的知名度相对较低,竞争力较弱。为了能够在竞争激烈的算力租赁市场中分得一杯羹,采取低价促销的策略是一种吸引客户的有效方式。通过提供较低的租赁价格,它们可以吸引那些对价格较为敏感的客户,从而逐步建立自己的客户群体,提高市场份额。

市场平均价格的实际情况
界面新闻记者浏览亚马逊AWS云服务平台官网发现,按照短租和长租不同条件,以一台服务器8张GPU换算下来,H100的最新价格有12美元/小时(按一年长租签约)、5美元/小时(按三年长租签约)两种不同的档位。另一家云厂商谷歌云类似产品的价格也在10美元上下。国内一位从事AI算力租赁业务的行业人士也表示,5到8美元/小时更能代表目前海外主流平台的价格水平,这也符合英伟达此前预测的产品价格走势。所以,个别公司的促销价格并不能反映整个市场的平均价格水平。
三、英伟达新品上市对H100价格的影响
新品的性能优势
英伟达的新品H200、B200今年陆续开始上市。新品具有更强的性能,这使得在计算能力相同的情况下,使用新品能够获得更高的效率。例如,新品可能在数据处理速度、能源利用效率等方面有了显著的提升。这种性能上的提升使得H100相对而言在性能方面的竞争力下降,从而导致其价格需要进行调整。
市场对新品的反响
尽管H100的价格有所调整,但是英伟达的新品近期开始上市供货后,市场反响依然热烈。该公司CEO黄仁勋本月在参加一场研讨会时透露,B200GPU近期开始量产交货后备受客户青睐,未来12个月的Blackwell架构GPU订单已全部售罄,任何新客户需要等到2025年才能收到产品。这表明市场对英伟达的新品有着很高的需求,同时也说明英伟达在算力市场上仍然具有很强的竞争力。
四、国内与海外算力市场的差异
海外降价对国内的影响
国内一位从事AI算力租赁业务的人士认为,海外降价对国内几乎没有影响。这主要是因为国内英伟达高端显卡禁售,很难获取新品,走的是与海外不同的发展道路。国内的算力市场有其自身的特点和发展需求,不会因为海外市场的价格波动而轻易改变自身的发展轨迹。
国内算力市场的供需失衡
国内算力市场存在供需失衡的问题。国内目前算力资源总供给有限,无法做到按需分配。国内用于训练AI模型的算力资源,除了AIGPUH100、A100之外,还有英伟达的消费GPU产品4090,以及不同厂商的国产AI算力。但是,国内从事算力租赁的公司混杂,产品服务与价格缺乏统一标准,少有像海外的AWS、谷歌云那样,可以向客户提供标准化租赁服务的公司。这就导致了国内算力市场在供需对接上存在困难,卖家找不到买家,买家也找不到卖家。
五、国内算力租赁市场的价格波动
服务器价格的波动
多位市场人士表示,国内算力资源租赁的服务器价格今年确有波动。一台H100服务器,年初的市场报价在12万元/年左右,现在的市价大概在7万元。这种价格的波动一方面与国内市场的供需关系有关,另一方面也与国内算力租赁市场的特殊情况有关。国内从事算力租赁的厂商大多是将算力硬件当作“期货”炒,为了保证硬件回本,极少能真正按小时计价来灵活地提供服务,许多订单都要按1年甚至更长时间起租,这使得价格缺乏灵活性,容易出现较大的波动。
H100服务器现货价格的下跌
据两位AI服务器的销售人员透露,目前国内非公开渠道流通的少量H100服务器,现货每台价格在240万元-250万元上下,相比去年近300万元的售价有所下跌。这种价格下跌主要影响的是那些将算力硬件当作投机商品的“投机客”,他们手中的硬件资产在贬值。
六、算力泡沫破裂为时尚早的原因
从供给方面看
与Meta、微软、特斯拉这样已拥有数十万张H100GPU,且仍继续加大采购的海外算力巨头相比,国内算力总量有限。各地仍在加紧投入建设智算中心,政府今年对算力建设的投入方向仍是主张“适度超前”来增加供给。这表明在供给方面,无论是国内还是海外,都还在不断增加算力资源的投入,整个算力市场仍然处于发展阶段,远未达到饱和状态。
从需求角度看
从需求的角度来看,无论是AI大模型训练还是推理,以及支持传统企业通过AI探索业务转型,先进的算力资源始终是市场上的“抢手货”。市场上真正有资源、有实力建设算力中心的客户还是极少数,今年接触的大量客户对于平价、稳定且按需调用的算力还是极度渴求。这说明市场对算力的需求仍然非常旺盛,只要有需求存在,就很难说算力泡沫已经破裂。

相关问答
英伟达H100海外租金下降是因为它性能不好吗?
不是。英伟达H100海外租金下降主要是因为英伟达新品上市,新品性能更强,使得H100相对竞争力下降,而且个别初创公司为吸引客户搞促销也拉低了价格,但这并不代表H100性能不好。
国内为什么没有受到海外H100租金下降的影响?
国内由于英伟达高端显卡禁售,难以获取新品,走的是不同的发展道路。而且国内算力市场有自身的供需失衡等问题,所以海外的租金下降对国内影响不大。
国内算力租赁公司的问题对价格有什么影响?
国内算力租赁公司混杂,产品服务与价格缺乏统一标准,很多公司把算力硬件当作“期货”炒,按年起租而非灵活按小时计价,这使得价格缺乏灵活性,容易出现较大波动,像H100服务器价格从年初到现在就有较大幅度下降。
英伟达新品受市场欢迎对H100意味着什么?
虽然H100的价格受到新品影响有所下降,但英伟达新品受市场欢迎表明英伟达在算力市场仍有很强竞争力,H100价格下降更多是市场产品更新换代的正常现象,而非被市场完全淘汰。
为什么说仅根据H100价格浮动判断算力泡沫破裂太早?
从供给方面,国内外都在增加算力投入,国内还在加紧建设智算中心;从需求方面,AI相关的各种应用以及传统企业转型都需要算力,需求很旺盛,所以仅根据H100价格浮动就说算力泡沫破裂是不准确的。
国内算力市场供需失衡该怎么解决?
要解决国内算力市场供需失衡的问题,一方面需要增加算力资源的供给,比如加大智算中心的建设;另一方面需要规范算力租赁公司,制定统一的产品服务和价格标准,提高市场的对接效率,让卖家和买家能够更好地匹配。

