AI硬件降本多元化,真能刺激更多需求?

AI硬件投资回报率受关注
市场焦点回归核心问题
当下,存储器成本持续通胀,海外CSP自由现金流转负,市场焦点重回“AI硬件投资回报率”。7月AI硬件赛道股大幅调整,与上轮下跌不同,大厂资本开支等核心指标处高位,交易拥挤度更高。不过,通过研究单token成本等核心问题,中金公司认为AI硬件需求增长仍强劲。
硬件成本端的变化
硬件成本端,存储通胀虽存在,但难抵GPU技术迭代增效,单token成本继续快速下降。中金公司构建了存储价格指数,发现硬件系统架构和软件栈优化过程中,存储通胀虽影响Capex有效性,但不改单token成本下降趋势。这表明GPU技术的进步对硬件成本控制起到关键作用。
模型端盈利稳固拉动需求
闭源模型与开源模型的差异
模型端来看,闭源模型靠溢价、开源模型凭降本,各厂商盈利底座稳固,上游算力硬件需求持续被拉动。闭源前沿模型的能力溢价能带来定价权,对冲硬件成本提升;开源模型厂商通过优化压低单位token成本,在低价竞争中有更强盈利扩张弹性。

硬件需求的“飞轮效应”
整体而言,硬件需求的“飞轮效应”仍在。尽管模型能力快速提升,市场担忧API价格下行侵蚀盈利,但闭源模型和开源模型的不同盈利模式,使得上游算力硬件需求持续存在。国产算力也有望在这一过程中扮演更重要角色,进一步推动硬件需求增长。
推理负载精细化推动创新
推理应用转换带来的机遇
随推理应用从传统Chat-only向Agent等转换,AI硬件迎来新机遇。通过定制化架构和系统互连优化,可加速单token降本、突破延迟与吞吐瓶颈,为实时交互和Agent场景提供性能溢价。推理负载结构的精细化有望推动定制化架构芯片落地及系统互联创新。
硬件降本多元化刺激需求
硬件降本多元化之路开启后有望刺激更多需求。这不仅体现在成本控制上,还体现在为不同场景提供更适配的硬件性能。随着技术不断发展,AI硬件将能更好地满足各种应用需求,从而带动整个行业的进一步发展。

相关问答
AI硬件投资回报率为何成为市场焦点?
存储器成本通胀、海外CSP自由现金流转负,使得市场关注AI硬件投资回报率,7月相关赛道股大幅调整,核心指标变化引发关注。
GPU技术迭代对单token成本有何影响?
GPU技术迭代增效,虽有存储通胀,但单token成本继续快速下降,硬件系统架构和软件栈优化起关键作用。
闭源模型和开源模型如何影响硬件需求?
闭源模型靠溢价对冲成本,开源模型凭降本拉动需求,二者盈利模式不同,共同稳固上游算力硬件需求。
推理应用转换给AI硬件带来了什么?
推理应用从传统Chat-only向Agent等转换,推动定制化架构芯片落地及系统互联创新,为特定场景提供性能溢价。
硬件降本多元化如何刺激更多需求?
通过成本控制和提供适配性能,满足不同应用需求,推动AI硬件行业进一步发展,从而刺激更多需求。
国产算力在AI硬件发展中能起到什么作用?
国产算力有望在AI硬件发展中扮演更重要角色,进一步推动硬件需求增长,促进整个行业的发展。

