今年国内AI服务器规模为何大幅增长？

智算需求爆发推动增长

AI算力供需失衡

中国信通院数据显示，今年一季度国内AI算力需求同比暴涨417%，而供给增速仅128%。供需失衡促使算力市场步入量价齐升期，对安全可靠算力的需求也在加速释放。

行业需求结构变化

生成式AI和智能体应用加速落地，金融行业的信贷审批、合规审核等场景算力消耗激增。教育、政务等多行业也在加速推进安全可靠算力基础设施建设，推动了AI服务器规模增长。

金融与互联网需求强劲

金融行业要求严格

金融行业对安全可靠要求极高，是推进安全可信路线最快、标准最严的领域。随着AI在金融机构业务场景落地，行业算力需求结构显著变化。

多行业加速建设

除金融外，教育、政务等行业也在积极推进安全可靠算力基础设施建设。浪潮计算机作为服务器厂商，感受到此轮需求快速升温，出货规模将显著增长。

算力Token化提升利用率

算力消耗模式改变

金融行业算力消耗模式已变，一个业务流程需多个智能体协同，Token消耗呈链路级放大且难预测，还面临算力资源分散等痛点。

推动算力Token化变革

浪潮推动“算力Token化”，将GPU算力资源抽象为Token，按需分配、跨池调度。目前头部金融机构已探索统一算力调度平台建设。

据悉，算力Token化可使存量GPU算力利用率提升不低于20%、新购买算力成本节省不低于10%，有效提升了算力资源的利用效率和经济效益。

相关问答

今年国内AI算力供需情况如何？

今年一季度国内AI算力需求同比暴涨417%，而供给增速仅128%，供需失衡促使算力市场量价齐升。

哪些行业对安全可靠算力基础设施建设需求强劲？

金融、教育、政务、能源、交通、医疗、电信、电力、航空航天等行业需求强劲。

金融行业算力消耗模式有何改变？

过去一次请求对应一次推理的短时调用，如今一个业务流程需多个智能体协同，Token消耗呈链路级放大且难预测。

什么是算力Token化？

将GPU算力资源抽象为可计量、可调度、可计费的Token，像水电一样按需分配、跨池调度。

算力Token化有什么作用？

可使存量GPU算力利用率提升不低于20%、新购买算力成本节省不低于10%。

目前金融机构在算力管理上有哪些痛点？

多元异构算力资源分散，跨云部署调度难，各部门各自采购管理资源，导致部分算力闲置。