Google发布第八代AI芯片，光通信等投资方向为何被看好？

芯片及存储的新进展

TPU8t的核心增量

TPU8t有着更平衡的计算单元设计，搭配原生FP4以及TPUDirectRDMA/Storage，其目标是将训练集群充分利用起来。这样的设计能更高效地处理训练任务，为大模型训练提供有力支持，也体现了芯片在训练功能上的进一步优化。

TPU8i的核心增量

TPU8i则有384MB片上SRAM、288GBHBM以及CAE。这些配置的核心目的是降低长上下文、多智能体、MoE推理延迟，使得在推理任务中表现更出色，满足复杂推理场景的需求。

芯片架构与晶圆代工

上述复杂化的芯片架构设计离不开晶圆代工合作伙伴的工艺支持。先进的工艺能够实现芯片的各种功能，确保芯片性能达到预期，晶圆代工在芯片发展中起着关键的支撑作用。

网络连接方案的升级

TPU8t的网络提升

用于训练的TPU8t单卡scale-out带宽翻四倍、scale-up带宽翻两倍，前端Jupiter增加OCS用量，网络硬件配置显著提升。这大大提高了训练过程中的数据传输效率，有助于更快地完成训练任务。

TPU8i的网络优势

用于推理的TPU8i在scale-upBoardfly架构第三层OCS全连接带来额外1.25倍1.6T光模块的增量。这种架构特制于AI推理，增加了光模块与TPU的配比关系，降低了推理对通信的影响。

AI光通信的前景

MoE对All-to-all的通信需求增加了对低延迟的要求，Boardfly架构正好满足这一需求。在以谷歌链为代表的AIASIC架构中，未来网络投资占比可能提升，AI光通信仍是长期看好的方向。

投资方向与风险

看好的核心投资方向

从产业链维度来看，中金公司继续看好光通信、芯片定制服务、存储、晶圆代工等核心投资方向。这些领域在AI硬件发展中起着重要作用，有望随着技术进步迎来更多机遇。

面临的潜在风险

TPU相关芯片量产爬坡进度可能不及预期，这会影响产品的市场供应和推广。AI模型及应用迭代进度也可能不及预期，导致整个产业发展节奏受到影响。

相关问答

TPU8t相比之前的芯片有哪些核心增量？

TPU8t有更平衡的计算单元设计、原生FP4以及TPUDirectRDMA/Storage，能更好地“喂满”训练集群，提升训练效率。

TPU8i的核心增量对推理有什么作用？

其384MB片上SRAM、288GBHBM以及CAE可降低长上下文、多智能体、MoE推理延迟，增强推理性能。

网络连接方案升级体现在哪些方面？

TPU8t网络硬件配置提升，带宽增加；TPU8i在特定架构上增加光模块增量，满足AI推理通信需求。

为什么AI光通信是长期看好的方向？

MoE增加了对低延迟通信的需求，Boardfly架构特制于AI推理，未来网络投资占比或提升。

芯片架构设计与晶圆代工有什么关系？

复杂化的芯片架构设计需要晶圆代工合作伙伴的工艺支持，才能实现芯片的各种功能和性能。

TPU相关芯片量产爬坡可能面临哪些问题？

可能存在技术难题、生产流程不顺畅等问题，导致量产爬坡进度达不到预期，影响产品市场供应。