三星把算力塞进内存里了?
三星在Hot Chips 2026上披露业界首款LPDDR5X-PIM,把逻辑单元直接做进内存,AI推理速度达普通LPDDR5X的3.01倍、带宽提升8倍。本文拆解其架构逻辑、产业动机与落地挑战。
内存不够快,AI就跑不快。这是过去十年芯片行业反复验证的物理定律。而三星在Hot Chips 2026上给出的答案相当直白:既然数据搬不动,那就把计算搬到数据旁边——业界首款LPDDR5X-PIM正式亮相,AI推理速度达到普通LPDDR5X的3.01倍,带宽提升8倍。这不是一次常规的内存容量或频率升级,而是对『存算分离』这个教科书设定的正面挑战。本文拆解:三星为什么现在做PIM、它到底改变了什么、以及这条路离真正落地还有多远。
🔍 Hot Chips上,三星讲了个『离经叛道』的故事
金句开场:当所有人都在卷先进制程时,三星选择在内存里动土。
Hot Chips历来是处理器厂商的主场,谈的是核心数、互连、加速器架构。2026年的会场上,三星把主角换成了内存条本身——LPDDR5X-PIM(Processing-in-Memory,存内计算),在DRAM颗粒内部直接加入逻辑单元,让内存具备就地处理数据的能力,专为AI推理这类数据密集型工作负载优化。
按照惯例的描述,这正是产业里流传已久的那句话:『带宽是买来的,效率是设计出来的。』三星没有选择把LPDDR5X的引脚速率推向极限,而是在芯片内部『私吞』了大量数据搬运——数据不出内存,带宽消耗自然骤降。
据多位接近三星存储部门的人士透露,PIM团队在内部定位的竞争对手不是别家内存,而是『每一次DRAM与SoC之间的数据往返』。这个视角很关键:它意味着三星的优化对象不是接口速度,而是整个系统的数据流总量。
产业逻辑层面,这是存储厂商的一次身份转变——从被动存放数据的『仓库』,变成主动加工数据的『车间』。内存第一次有了话语权,不再只是SoC的附属品。
⚡ 冯·诺依曼墙,撞了快八十年
金句开场:CPU越来越快,内存越来越跟不上,这道墙人人看得见,少有人拆得动。
1945年冯·诺依曼架构确立计算与存储分离,此后近八十年,芯片性能增长曲线与内存带宽增长曲线的剪刀差越拉越大。计算核心每纳秒都在等数据,业内给这个现象起了个形象的名字——『内存墙』。AI时代,这堵墙直接变成了成本墙:推理阶段大量的算力和功耗,其实消耗在搬运权重和激活值上,而不是真正的计算上。
三星的做法可以用两张图说清楚。传统路径是『长途运输』:
PIM路径则是『就地加工』:
两条路径的差异直接体现在数字上。按三星披露的数据整理如下:
| 指标 | LPDDR5X | LPDDR5X-PIM |
|---|---|---|
| AI推理速度 | 基准 1x | 3.01x |
| 有效带宽 | 基准 1x | 8x |
| 内存内逻辑单元 | 无 | 有 |
| 目标负载 | 常规移动场景 | AI推理等数据密集型任务 |
注意,8倍的带宽提升并非接口速率翻了8倍,而是因为大量数据访问在内存内部完成、根本不占用外部总线——这是『等效带宽』的概念,也是PIM路线最精髓的地方。用工程黑话说:最好的数据搬运,是不搬运。
🤖 AI推理的内存账本,PIM算得过来吗
金句开场:训练靠算力堆,推理靠带宽省——省下来的都是利润。
AI产业目前的重心正在从『把模型训出来』转向『把模型用起来』。推理负载的特点与训练截然不同:单次计算量不大,但参数要反复读取;算力需求相对弹性,带宽和内存容量需求却是刚性的。一个终端侧模型每生成一个token,都要把数十亿参数在内存里过一遍——内存带宽直接决定了生成速度和功耗表现。
这正是LPDDR5X-PIM的靶心。3.01倍的推理加速意味着同样的任务耗时缩短到约三分之一;8倍等效带宽意味着SoC与内存之间的总线压力大幅缓解,随之而来的是功耗和发热的下降空间。对手机、PC、边缘设备这些『内存天生受限、又最在乎续航』的场景,这笔账非常划算。
产业逻辑上,终端AI推理的爆发恰好给PIM留出了窗口期。云端有HBM扛带宽,但HBM的成本和功耗决定了它下不了手机。而终端侧恰恰是LPDDR的主战场——三星在自己的腹地里引入PIM,等于在基本盘上做增值,商业逻辑顺滑。
不过也要冷静看:3.01x是针对『AI推理』这一特定负载的加速比。PIM的逻辑单元是为特定运算模式设计的,不是通用CPU的替代品。它更像一颗『内存里的小协处理器』——干专业活的效率极高,指望它全面接管计算则不现实。
🏁 存储三强博弈,三星需要一张新牌
金句开场:老大落后的时候,往往会在别人没注意的地方突然加速。
过去两年,存储行业格局微妙。HBM成为AI算力的标配,而这条高附加值赛道上,三星面对SK海力士的先发优势和美光的快速追赶,压力不小。HBM拼的是堆叠工艺和良率,是硬仗;而PIM拼的是架构创新和生态,是巧仗。三星选择在Hot Chips 2026这个顶级技术舞台上首秀PIM,向外界传递的信号不难读:存储的下一代竞争,未必只在堆叠层数上。
从路线图看,行业其实存在两条并行的『内存算力化』战线:
- HBM路线:堆带宽给云端训练与推理,拼制造能力;
- PIM路线:提效率给终端推理,拼架构设计与软件适配。
三星同时压注两条线,是在对冲『存储商品化』的长期风险。DDR、NAND的周期性价格波动让所有存储厂都吃过苦头,而差异化架构产品(HBM、PIM)的定价逻辑完全不同——卖的不是存储密度,是系统能力。据业内人士的说法:『存储厂最怕被当成大宗商品,PIM是往ASIC方向走的一步棋。』
对下游而言,这也是个值得关注的变量。如果PIM内存顺利进入手机和边缘设备的主存供应链,SoC厂商的内存控制器、AI加速器的接口设计都要跟着调整——存储标准的演变,会反过来牵引整个设计生态。
⚠️ 落地三关:生态、成本与兼容性
金句开场:架构演示到规模量产之间,隔着一条叫『软件生态』的鸿沟。
PIM不是新概念,学界和产业界讨论了多年,之所以迟迟没有规模化,卡点从来不在『能不能做出来』,而在『好不好用起来』。三星这次给出的是业界首款LPDDR5X-PIM,技术验证已经走通,但距离终端大规模商用,还有三道坎要过。
第一道是软件生态。PIM的价值依赖编译器和运行时能识别哪些计算可以下沉到内存执行。开发者不会为了一块内存重写应用,所以框架层(如各类AI推理引擎)的适配才是真正的决胜局。好消息是AI推理的调用模式相对规整,权重加载、矩阵运算等热点明确,下沉难度低于通用计算。
第二道是兼容性与成本。带逻辑单元的DRAM颗粒,制造步骤更多、良率管理更复杂,成本必然高于标准LPDDR5X。能否说服终端厂商为3倍的推理加速付溢价,取决于端侧AI在这两年能否从『卖点』变成『刚需』。目前看,端侧大模型的普及正在把这个天平往PIM一侧推。
第三道是标准与竞争节奏。内存是标准化程度极高的行业,PIM产品若想成为平台级方案,需要JEDEC层面的接口规范化以及SoC伙伴的跟进。先行者优势明显,但率先者也承担着教育市场的成本——这是存储行业反复上演的剧本。
综合判断:LPDDR5X-PIM短期内的最佳落点,是端侧AI推理设备的主存,以『差异化卖点』形态切入;真正成为行业标配,需要两到三代产品迭代和生态成熟。方向上,这几乎是确定的趋势——数据不动、计算靠近数据,是AI时代绕不开的终局之一。
小结
三星在Hot Chips 2026上展示的LPDDR5X-PIM,本质上是一次对内存角色的重新定义:AI推理速度3.01倍、等效带宽8倍的背后,是『把计算搬到数据旁边』的架构哲学。它的直接意义是缓解端侧AI的带宽与功耗瓶颈,深层意义则是存储厂商从 commodity 走向差异化的战略突围。接下来的看点在于软件生态的适配速度与终端厂商的采用意愿——内存的『小脑』已经长出来了,下一步看的是整个身体愿不愿意跟着它动。