资讯🔥8.0
消息称美光正探索开发近GPU NAND闪存以运行更大的LLM
📋总体概括
据新浪财经报道，美光正探索开发名为「近GPU NAND」的高耐久性闪存方案，将NAND闪存更靠近GPU部署，让GPU直接访问数百GB存储池。其定位是承接不需要HBM或常规DRAM那样高带宽、低延迟的工作负载，重点提升I/O速度、带宽与读取速度，密度可低于传统TLC/QLC NAND，换取耐久性与访问性能，目标之一是支撑更大规模LLM的运行。
⚡关键信息
- ▸美光正探索「近GPU NAND」架构，将NAND闪存靠近GPU部署以服务LLM等负载
- ▸该方案针对无需HBM/DRAM级带宽与延迟的工作负载，主打I/O速度、带宽和读取速度
- ▸可让GPU直接访问数百GB存储池，密度可低于传统TLC/QLC NAND但兼顾耐久性
- ▸若落地，LLM参数加载将不再局限于HBM/DRAM容量墙
- ▸此为美光在NAND业务上的新方向探索，目前仍处于研发方案阶段
🔥犀利点评
美光这是给HBM容量墙找救兵的聪明一招。LLM推理的瓶颈早就不在算力而在内存容量和带宽，HBM贵且小，DRAM功耗大，把高耐久NAND搬到GPU旁边当「第三层内存」，用读取性能换密度，确实打中了大模型跑不动的痛点。但别急着欢呼：NAND的读取耐久性和延迟跟DRAM仍差着量级，能否真的被GPU直接寻址访问，而不是沦为花哨的swap区，才是成败关键。美光在NAND上业绩承压，急需差异化故事，这步棋战略上对，工程上还远。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 36氪快讯 阅读全文 →