谷歌TurboQuant技术引担忧,存储股连续第二日集体下挫,兆易创新、佰维存储跌超5%

3月27日,本周谷歌公布了一项可能减少AI模型所需内存量的技术,美国市场存储芯片股已连续第二日大跌。受此影响,A股市场存储芯片股今日也再度集体下挫。其中,大为股份跌超6%,兆易创新佰维存储中京电子跌超5%,盈方微太极实业大港股份国科微中电港科翔股份江波龙西测测试香农芯创跌超4%。

消息面上,谷歌发布的新型AI内存压缩技术TurboQuant,引发市场对存储需求前景的担忧。据称,该技术可在不损失准确性的前提下,将大语言模型的缓存内存占用至少减少6倍,并实现最高8倍的加速,旨在解决AI推理与向量搜索中的内存瓶颈问题。

不过摩根士丹利指出该技术仅作用于推理阶段的键值缓存,不影响模型权重所占用的高带宽内存(HBM),也与训练任务无关。因此,这并非存储总需求或硬件总量减少6倍,而是通过效率提升增加单GPU吞吐量——相同硬件可支持4至8倍更长的上下文,或在不触发内存溢出的前提下显著提升批处理规模。摩根士丹利还提示,由于该压缩技术可直接集成进平台基础设施,对软件层面可能形成边际利空。

快讯图片

股票频道更多独家策划、专家专栏,免费查阅>>

责任编辑:栎树
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号