AI芯片大量闲置，是算力不足还是另有隐情？
巨量采购与巨量浪费
EpochAI分析师称前沿实验室算力采购远超消耗，大量资源闲置。Fujitsu报告显示超75%企业在峰值负载下GPU利用率低于70%。这不仅造成金钱损失，还与光纤铺设热潮中暗光纤闲置类似，但AI算力闲置问题更复杂，需求明明存在，却卡在了中间环节。
GPU的漫长等待
研究表明，AI训练中GPU有30%到65%时间因数据未准备好而闲置，即“数据饥饿”问题。存储系统IO速度跟不上GPU计算速度，导致数据传输瓶颈。即便GPU处于“深层空闲状态”仍大量耗电，且现有监控指标不能有效反映真实能效，使得算力浪费现象更为隐蔽。
当“用好算力”成为关键
AnjneyMidha提出“产出最大化”，最佳实践者的MFU在60%到70%，多数AI公司若能提升利用率，等同于扩大有效算力。云计算行业也曾经历类似变革，如今AI算力正处于转型关键期。随着商业模式变迁和环境成本压力，“产出最大化”正成为行业新命题。
相关问答
为什么说GPU闲置问题比暗光纤问题更复杂？
暗光纤主要是需求侧问题，当时数据传输需求少。而GPU闲置是需求存在，但因数据准备、存储系统IO速度等中间环节问题，导致算力浪费。
“数据饥饿”对GPU利用率有何影响？
“数据饥饿”使GPU在AI训练中有30%到65%时间闲置，因数据预处理和加载速度跟不上GPU计算速度，大大降低了GPU利用率。
现有监控指标为何不能有效反映GPU真实能效？
现有监控指标如“集群级SM利用率”，不能区分数据搬运、内存同步等“假工作”和真正的模型计算，导致不能准确反映GPU真实能效。
AI行业从“规模竞争”转向“效率竞争”有何意义？
意味着从单纯比拼算力资源转向优化算力利用，提高资源产出，推动行业从资本消耗战转向工程精密战，更高效地发展。
“产出最大化”对AI行业发展有何重要性？
它能提升GPU利用率，扩大有效算力，避免资源浪费，降低环境成本，还将引发行业范式转移，推动AI行业更健康、高效地发展。
