英伟达与Groq达成推理技术许可，AI推理技术将如何发展？

Groq与英伟达的合作详情

达成非独家许可协议

美东时间12月24日，AI芯片初创公司Groq宣布与英伟达就其推理技术达成非独家许可协议。这一协议为双方的合作奠定了基础，开启了新的合作篇章。Groq将继续保持独立运营，其云服务也不受此次合作影响，确保了业务的稳定性和连续性。

核心团队成员加入英伟达

根据协议条款，Groq创始人JonathanRoss、总裁SunnyMadra及其他核心团队成员将加入英伟达。这些核心成员的加入，将为英伟达带来Groq在AI推理技术方面的专业知识和经验，有助于推进授权技术的升级与规模化应用。

Groq的独特优势与技术亮点

自研LPU推理芯片

Groq成立于2016年，由谷歌TPU核心开发者JonathanRoss创立。公司自研的LPU推理芯片是本次合作的核心价值所在。该芯片专为AI推理场景深度优化，具有独特的技术优势。

高性能与低延迟

LPU凭借确定性架构、片上SRAM内存设计等核心技术，实现了超低延迟、超高能效与极速推理速度。在主流大语言模型运行中，LPU推理速度可达英伟达H100GPU的5至18倍，首token响应时间仅0.2秒，有效解决了传统GPU在推理环节的“内存墙”与高延迟问题。

合作对双方的意义与影响

Groq的收益与发展

尽管未被英伟达完全收购，但与英伟达紧密捆绑后，Groq可获大额技术授权收益，同时保留独立运营权。这将有助于Groq依托英伟达的背书拓展相关业务，实现更好的发展。

英伟达的战略布局

对英伟达而言，通过“非独占技术许可+核心人才吸纳”的方式，可快速补全其AI推理短板、巩固全栈优势，同时降低收购风险，更好地应对来自谷歌TPU、微软AzureMaia的竞争。

资本市场反应与行业展望

英伟达股价表现

12月24日英伟达收于188.61美元，盘后股价微跌0.32%，表明市场对其战略调整持理性态度。不过，英伟达股价年内累计涨幅仍超35%，显示出市场对其长期发展的信心。

推动AI推理技术发展

当前全球AI产业正从模型训练阶段迈入规模化推理落地的关键期，低延迟、高能效的推理算力成为核心刚需。英伟达与Groq的联手，不仅推动AI推理技术走向高性能与低成本的双向优化，也为行业合作提供了新的模式和思路。

英伟达与Groq的合作是AI领域的一次重要事件。通过技术许可和人才整合，双方有望在AI推理技术上取得更大突破，为行业发展注入新动力，同时也为其他科技公司的合作提供了有益借鉴。

相关问答

Groq与英伟达达成了什么协议？

Groq与英伟达达成非独家推理技术许可协议，Groq继续独立运营，其核心团队成员将加入英伟达推进技术升级与应用。

Groq的LPU推理芯片有什么优势？

LPU专为2秒，还能降成本、解决延迟问题。

英伟达为何选择与Groq合作？

英伟达借此补全AI推理短板、巩固全栈优势，降低收购风险，应对谷歌TPU、微软AzureMaia的竞争。

Groq在合作后有什么变化？

Groq继续独立运营，云服务不受影响，还能获技术授权收益，凭借英伟达背书拓展业务。

市场对英伟达与Groq合作有何反应？

32%，年内涨幅超35%，市场对其战略调整持理性态度。

AI产业当前处于什么阶段？

全球AI产业正从模型训练阶段迈入规模化推理落地关键期，低延迟、高能效的推理算力成核心需求。