华为已为KV Cache单独做存储，专用SSD规格却还没定下来

📋总体概括

AI推理中KV Cache的存储压力催生了新品类：华为在全联接大会推出OceanStor M900，英伟达也推出CMX Context Memory Storage，二者均为面向KV Cache的专用存储设备。但这类专用SSD的规格尚未形成行业标准，接口、容量与性能指标仍在摸索中。KV Cache从GPU内存外溢为独立存储层，意味着推理成本优化正把机会让渡给存储厂商，AI存储细分赛道开始成形。