系统级算力能否成为下一代AI算力基础设施？

系统级算力成为下一代AI算力基础设施的背景

AI产业发展需求

当前AI产业呈现出蓬勃发展的态势，Scalinglaw在后训练、在线推理等阶段快速演进。在训练端，模型架构持续创新迭代，像阿里巴巴Qwen团队与浙江大学团队提出的ParallelScaling，腾讯混元团队采用Transformer、Mamba混合架构训练的TurboS，都展现出优秀性能，这进一步强化了训练侧scalinglaw的延续。推理端，MoE专家网络架构成为主流后，如何通过硬件部署实现更高吞吐量和更低延时成了焦点。这一系列的发展都对底层基础设施提出了新要求，使得系统级算力有了用武之地。

单芯片算力提升瓶颈

随着技术的发展，单芯片算力提升对算力集群能力提升的边际效应在递减。内存通信、片间互连、网络通信逐渐成为制约算力进一步提升的瓶颈。先进制程对单芯片算力提升的促进作用未来也将放缓，传统依赖单芯片算力提升的方式已难以满足日益增长的AI需求，这为系统级算力的发展提供了契机。

系统级算力所需的能力与特点

芯片层面能力

算力集群涉及多种芯片，如AI加速芯片、CPU芯片、Switch互连芯片、DPU数据处理芯片等。国产AI加速芯片在峰值算力能力上与海外旗舰产品存在差距，软件生态也因产业发展时长相对落后。在单芯片能力竞争中不占直接优势，但可以通过其他方面的协同来弥补。

互连与网络层面特点

在互连层面，传统PCIe与英伟达NVLink等差距较大，NVLink5.0能提供1.8TB/s双向带宽，远超传统PCIe方案。国产芯片采用自研技术方案助力系统集群发展。网络层面，系统算力采用RDMA技术实现远程内存访问，主流技术方案有InfiniBand、RoCE等，这些技术为系统级算力的高效运行提供了支撑。

整机与生态层面要求

系统级算力并非各部件的简单组装，而是通过系统设计、规划、测试完成的有机整体。与传统AI服务器相比，更需要垂直融合能力，产业上下游关系因组件耦合程度提升而更紧密。在生态层面，CPU+GPU+互连+网络+整机+系统交付成为入局门槛，海外巨头已通过收并购构筑起产业生态。

系统级算力的先行示范与产业发展模式

技术角度的先行示范

当前单芯片算力能力发展快于通信领域，通信效率成为集群效率提升关键。构建大集群主要有Scaleup和Scaleout两种方式，Scaleup能提供更大带宽、更低通信时延和更大缓存一致性内存空间，是未来重要方向。像2024年3月英伟达发布的NVL72系统、2025年4月华为发布的CloudMatrix384超节点，为行业发展提供了思路。

产业维度的发展模式

半导体行业产业链环节多且技术复杂，整机资源耦合程度提升，上下游协作紧密。头部企业常采用投资并购方式获取市场机会、扩展技术能力。英伟达收购Mellanox，扩展连接技术；AMD收购ZTSystems获取系统架构设计等能力，构建AI解决方案核心。

系统级算力发展的风险与投资策略

发展风险

系统级算力发展面临多种风险。算力芯片供应链可能出现问题，芯片产能供给不足也会影响发展。互联网大厂资本开支不及预期，相关产业政策若不理想，都会对系统级算力发展产生阻碍。AI应用发展和芯片技术迭代不及预期，国产GPU厂商竞争加剧等风险也不容忽视。

投资策略

鉴于当前AI大模型训练、推理需求旺盛，单芯片算力提升受限，系统级节点有望解决诸多问题，成为AI算力发展重要方向。从算力龙头企业系统级产品趋势和半导体行业并购历史看，系统级算力有望成为AI发展下一站。国产GPU芯片公司可打造高资源密度算力基础设施追赶海外产品。投资者可关注英伟达NVL72等系统级产品出货情况，以及以华为CloudMatrix384超节点为代表的国产系统级产品进展和国内产业链相关公司。

系统级算力在AI产业发展中有着巨大潜力，但也面临着诸多挑战。随着技术的不断进步和产业模式的不断完善，系统级算力有望成为下一代AI算力基础设施，为AI的发展注入新的动力。

相关问答

系统级算力成为下一代AI算力基础设施的背景是什么？

AI产业发展迅速，Scalinglaw在训练和推理阶段演进，单芯片算力提升受限，内存通信等成瓶颈，促使系统级算力发展。

系统级算力在芯片层面有什么特点？

算力集群涉及多种芯片，国产AI加速芯片在峰值算力和软件生态上与海外有差距，单芯片能力竞争不占优。

系统级算力在互连和网络层面有哪些要求？

互连方面传统PCIe与先进技术差距大，国产芯片自研方案助力；网络采用RDMA技术，主流方案有InfiniBand、RoCE等。

系统级算力发展面临哪些风险？

面临算力芯片供应链、产能供给、大厂资本开支、产业政策、AI应用发展、芯片技术迭代、国产厂商竞争等风险。

投资系统级算力相关领域有什么策略？

关注英伟达NVL72等系统级产品出货，以及华为CloudMatrix384超节点等国产产品进展和国内产业链公司。

半导体行业头部企业如何通过收并购发展系统级算力？

英伟达、AMD等通过收购获取技术和能力，如英伟达扩展连接技术，AMD构建AI解决方案核心。