NVIDIA Groq 3 LPX 确定性执行如何驱动
来自 NVIDIA Developer · 期号 2026-09-16
摘要
AI 工厂的瓶颈是电力,不是算力。NVIDIA 在 Vera Rubin 平台上用 Groq 3 LPX 的低延迟加速器来解决高交互场景的功耗问题。 Groq 3 LPX 的确定性执行模型让编译器在运行前就排好每个时钟周期的计算与数据移动计划,从而精确预测电流曲线。基于这条曲线,Preemptive Power(PEP)提前通知供电系统准备升压,Clock Period Synthesis(CPS)拉长电流尖峰对应的时钟周期来降低电流变化率。两者配合把电压跌落幅度降低 60% 以上,电压保护带随之缩小,同等负载下功耗降低低两位数百分比。 在工厂层面,NVIDIA DSX MaxLPS 软件在机架间动态调配电力,回收闲置容量,让同一个电力预算里多部署 40% 的 GPU、多产出 35% 的 token。机架内的电容与 Intelligent Power Smoothing 软件吸收训练和推理的突发尖峰,使工厂可以按持续负载而非峰值来规划。 Groq 3 LPX 与 Vera Rubin NVL72 搭配,在长上下文高交互场景下,每兆瓦吞吐量比上一代 GB200 NVL72 高出 35 倍。