OpenAI 计算主管:建设速度还不够快
来自 The MAD Podcast with Matt Turck · 期号 2026-07-16
摘要
AI 行业的基础设施建设规模可能超出多数人的想象。OpenAI 工业计算主管 Sachin Katti 在访谈中拆解了 Stargate 超级计算机、液冷数据中心、自研芯片 Jalapeño 等项目的物理现实。 他认为最大的风险不是过度建设,而是建设速度不够快。AI 正在从训练转向推理主导,这改变了算力需求的结构。 Katti 还透露,AI 已经开始参与设计下一代芯片,形成自我加速的循环。 本文是深度访谈,涉及电力、芯片、网络、融资等多个维度。
深读
导读 原文信息有限,以下基于节目简介。这期播客深入 OpenAI 工业计算主管 Sachin Katti 的视角,拆解 AI 基础设施建设的物理极限与现实挑战。读完能理解为什么 OpenAI 认为最大的风险不是过度建设,而是建设速度不够快,以及自研芯片、液冷数据中心、电网改造等具体项目背后的逻辑。 关键信息 - OpenAI 正在推进 Stargate 超级计算机项目,涉及 500 亿美元级别的投资。 - 自研 AI 芯片代号为 Project Jalapeño,设计周期极短,且 AI 已经开始参与设计下一代芯片。 - AI 数据中心的能耗密度迫使全面采用液冷方案,并需要改造美国电网、探索核能。 - 算力需求结构正在从训练主导转向推理主导,衡量指标变为“tokens per watt”。 - OpenAI 的算力组合包括 Microsoft、超大规模云服务商(hyperscalers)以及新兴云服务商(neoclouds)。 逐节讲解 基础设施的物理现实 Katti 将 AI 数据中心描述为“把电子转化为 token 的工厂”。这些设施需要全面液冷,因为传统风冷无法应对 GPU 集群的发热密度。电力成为核心瓶颈,涉及电网、发电、输电、变电站等多个环节。OpenAI 正在探索“表后供电”(behind-the-meter power)和燃气轮机方案,并认为核能“来得还不够快”。 自研芯片与算力结构转变 OpenAI 自研芯片 Jalapeño 的设计速度很快,部分原因是 AI 已经开始辅助芯片设计。Katti 提出“tokens per watt”作为新的关键指标,反映推理任务正在取代训练成为算力消耗的主要来源。这一转变改变了基础设施的优化目标。 建设策略与融资逻辑 Katti 认为更大的风险不是过度建设,而是建设速度跟不上需求。Stargate 项目被拆解为多个阶段,涉及 Oracle 等合作伙伴以及 Abilene 等新站点。大规模算力的融资方式也在演变,OpenAI 将“保证容量”视为一种可供应的智能单位。网络瓶颈方面,MRC(一种网络拓扑)被用来解决 10 万 GPU 集群的互联问题。 瓶颈与选址 当前最紧的瓶颈包括变压器、燃气轮机、电工人才和供应链。数据中心选址需要考虑社区影响(就业、用水、本地争议)。OpenAI 还设想过将数据中心送入太空的可能性,但未展开细节。 值得注意 节目简介只列出了话题标题,没有嘉宾的具体论述内容。因此以上解读仅能覆盖话题范围,无法还原 Katti 的原话、数据或论证过程。例如“Jalapeño 设计速度很快”具体有多快、AI 辅助芯片设计达到什么程度,这些细节在简介中不可见。