谷歌新算法能“6倍压缩KV缓存”,对美股存储板块有何影响?

财云财经阅读:65222026-03-27 23:23:00评论:0
摘要: 谷歌推出的TurboQuant算法可压缩人工智能系统内存,影响美股存储板块。技术应用前景待察,市场已预期内存需求变化,谷歌股价有所回撤。

谷歌算法引发存储板块异动

存储板块反向走弱

周三美股开盘,大盘情绪尚可,存储板块却反向走弱。美光科技、闪迪、西部数据和希捷科技等纷纷下跌。市场异动矛头指向谷歌,因其推出了可能降低人工智能系统内存需求的压缩算法TurboQuant。

算法针对内存瓶颈

谷歌的TurboQuant压缩技术旨在解决AI系统中键值缓存的瓶颈问题。随着上下文窗口变大,这些缓存成为主要内存瓶颈,该算法能在不重新训练或微调模型的情况下,压缩键值缓存。

算法性能及应用前景

显著的内存压缩效果

TurboQuant可将键值缓存压缩至3bit精度,基本保持模型准确率,对开源模型测试显示能实现约6倍的内存压缩效果。在英伟达H100加速器上测试,最高可实现约8倍性能提升。

谷歌新算法能“6倍压缩KV缓存”,对美股存储板块有何影响?

应用前景存疑

谷歌计划在国际学习表征会议展示该技术,其应用前景尚不明朗。市场已开始交易内存需求前景转变预期,但技术是否仅适用于谷歌体系、能否推广,以及实验室测试结果能否转化为实际应用,都存在不确定性。

市场解读与谷歌股价回撤

富国银行分析师解读

富国银行TMT分析师AndrewRocha认为,TurboQuant直接压缩内存成本曲线,若广泛采用对内存成本曲线利好,还可能影响未来内存容量需求判断。

谷歌股价一度跌破290美元

作为搅动存储板块的谷歌,自身股价也受影响。周三一度跌破290美元,距2月初历史高点已回撤近17%,距20%关键心理位置咫尺之遥。

谷歌新算法能“6倍压缩KV缓存”,对美股存储板块有何影响?

相关问答

谷歌新算法TurboQuant主要解决什么问题?

主要针对AI系统中键值缓存瓶颈,随着上下文窗口变大,缓存成内存瓶颈,该算法可压缩缓存,降低内存需求。

TurboQuant算法在内存压缩上有怎样的效果?

可在不重新训练或微调模型情况下,将键值缓存压缩至3bit精度,实现约6倍内存压缩效果,对英伟达H100加速器测试最高约8倍性能提升。

该算法的应用前景如何?

应用前景不明。不知是否仅适用于谷歌体系及能否推广,实验室测试结果转化为实际应用也存在不确定性。

富国银行分析师如何看待TurboQuant算法?

分析师认为其能压缩内存成本曲线,若广泛采用对内存成本利好,还可能影响内存容量需求判断。

谷歌股价因新算法有何变化?

谷歌股价周三一度跌破290美元,自2月初历史高点已回撤近17%,距20%关键心理位置很近。

声明

转载声明:欢迎分享本文,转载请保留出处!

本文网址:https://www.caiair.cn/post/guge-suanfa-turboquant-149837.html

上一篇:

下一篇:

排行榜