内存涨价倒逼技术“革命”：内存优化技术将成为AI下一个盈利胜负手？

<img src="https://image.cls.cn/img/vcg/VCG31N2286771952_37e4932fba434d63a523dbe038b57da5_1787190675.jpeg" /><br /><p><strong>财联社8月20日讯（编辑 李莹）</strong>伴随AI大模型迭代发展，行业算力与内存需求激增，内存芯片采购成本大幅攀升。业内指出，为控制开支，各大科技巨头正通过软件与系统优化，降低AI数据处理过程中的内存占用以实现降本。</p> <p>据媒体近日报道，谷歌、英伟达、微软等头部科技企业接连推出数据压缩、内存负载分流等技术，以此应对AI业务带来的内存压力。</p> <p><strong>多种技术</strong></p> <p>谷歌研究院于今年三月推出的<strong>TurboQuant算法</strong>是代表性技术。该技术将AI推理过程中产生的键值（KV）缓存压缩至3-4比特，降低DRAM的计算压力。</p> <p>可大致理解为借助特殊量化算法，用更小空间存放AI推理临时数据，不用改动原有模型即可减少内存消耗。</p> <p>业内指出，在无需对AI模型重新训练的前提下，相较现有方案，其最高可将内存使用量降至原有水平的六分之一。</p> <p>英伟达于3月正式公布<strong>上下文记忆存储平台（CMX）平台方案，通过增设独立存储层减轻内存压力。</strong></p> <p>业内指出，其依托数据处理单元（DPU）搭建共享CMX平台，将原本集中于高带宽内存（HBM）中的计算数据进行分流，此举旨在避免HBM过载，同时提升能效。</p> <p>微软近期披露了<strong>IndexMem技术，该技术会在推理阶段筛选优先级相对较低的数据并对其压缩。</strong></p> <p>据称学术界也推出<strong>EVICPRESS系统</strong>作为主流备选方案，该系统将键值缓存分散存储至HBM、普通DRAM、固态硬盘（SSD）等多层存储介质，再依据上下文重要性对数据执行压缩或删除操作。</p> <p>可以理解为把AI临时缓存分流到快慢不同的存储设备，优先保障关键数据，以此缓解HBM的压力。</p> <p>上述技术均于今年上半年陆续公布，目前尚无消息表明已实现大规模商业化落地。</p> <p><strong>成本压力倒逼技术优化</strong></p> <p>内存价格持续上升，促使大型科技企业着手削减内存消耗。</p> <p>摩根士丹利最新预测显示，2026年第三季度DDR4等成熟DRAM价格预计将环比大涨50%，第四季度将进一步上涨10%。</p> <p>该机构表示，成熟的DRAM芯片的供应紧张局面，即将进一步恶化。</p> <p>据韩国券商iM证券测算，<strong>今年全球前十五大科技巨头的资本开支总预算中，存储芯片采购占比达到37%，较去年15%的占比高出2.5倍左右。</strong></p> <p>有媒体指出，内存成本上涨也对大型科技企业的自由现金流形成拖累。</p> <p>谷歌母公司Alphabet，受AI基础设施投入影响，今年第二季度录得史上首次负自由现金流。为应对该局面，Alphabet本月初发行约250亿美元公司债完成融资。</p> <p>英伟达同样于6月发行至少200亿美元公司债，这是其五年以来首次发行债券，用于覆盖基础设施建设开支。</p> <p>一位业内人士表示：“大型科技企业已经走到仅靠经营活动产生的现金不足以覆盖AI基础设施投入的阶段。<strong>能够提升有限芯片资源利用效率的内存优化技术，未来将成为决定企业盈利水平的关键变量。</strong>”</p>