谷歌新算法能“6倍压缩KV缓存”,对美股存储板块有何影响?

谷歌新算法引发存储板块异动
存储板块反向走弱
周三美股开盘,大盘情绪尚可,存储板块却反向走弱。美光科技、闪迪、西部数据和希捷科技等纷纷下跌。市场异动矛头指向谷歌,因其推出了可能降低人工智能系统内存需求的压缩算法TurboQuant。
算法针对内存瓶颈
谷歌的TurboQuant压缩技术旨在解决AI系统中键值缓存的瓶颈问题。随着上下文窗口变大,这些缓存成为主要内存瓶颈,该算法能在不重新训练或微调模型的情况下,压缩键值缓存。
算法性能及应用前景
显著的内存压缩效果
TurboQuant可将键值缓存压缩至3bit精度,基本保持模型准确率,对开源模型测试显示能实现约6倍的内存压缩效果。在英伟达H100加速器上测试,最高可实现约8倍性能提升。

应用前景存疑
谷歌计划在国际学习表征会议展示该技术,其应用前景尚不明朗。市场已开始交易内存需求前景转变预期,但技术是否仅适用于谷歌体系、能否推广,以及实验室测试结果能否转化为实际应用,都存在不确定性。
市场解读与谷歌股价回撤
富国银行分析师解读
富国银行TMT分析师AndrewRocha认为,TurboQuant直接压缩内存成本曲线,若广泛采用对内存成本曲线利好,还可能影响未来内存容量需求判断。
谷歌股价一度跌破290美元
作为搅动存储板块的谷歌,自身股价也受影响。周三一度跌破290美元,距2月初历史高点已回撤近17%,距20%关键心理位置咫尺之遥。

相关问答
谷歌新算法TurboQuant主要解决什么问题?
主要针对AI系统中键值缓存瓶颈,随着上下文窗口变大,缓存成内存瓶颈,该算法可压缩缓存,降低内存需求。
TurboQuant算法在内存压缩上有怎样的效果?
可在不重新训练或微调模型情况下,将键值缓存压缩至3bit精度,实现约6倍内存压缩效果,对英伟达H100加速器测试最高约8倍性能提升。
该算法的应用前景如何?
应用前景不明。不知是否仅适用于谷歌体系及能否推广,实验室测试结果转化为实际应用也存在不确定性。
富国银行分析师如何看待TurboQuant算法?
分析师认为其能压缩内存成本曲线,若广泛采用对内存成本利好,还可能影响内存容量需求判断。
谷歌股价因新算法有何变化?
谷歌股价周三一度跌破290美元,自2月初历史高点已回撤近17%,距20%关键心理位置很近。

