GPU 算力从未成为大宗商品
来自 The MAD Podcast with Matt Turck · 期号 2026-06-18
摘要
GPU 算力没有像很多人预测的那样变成大宗商品，反而越来越稀缺。Lambda 联合创始人兼 CTO Stephen Balaban 解释了为什么共识是错的，以及为什么我们仍然在严重地建设不足。 建设千兆瓦级 AI 工厂的真正瓶颈不是芯片，而是土地、电力、冷却和融资结构。一块 2023 年的 GPU 今天的租赁价格比刚出货时还高，因为新产能跟不上需求。 NVIDIA 真正的护城河不是硬件，而是 CUDA 和 cuDNN 生态。Balaban 认为未来是多芯片世界，但 NVIDIA 的软件栈让切换成本极高。 Lambda 的起源故事：从面部识别创业公司，到棒球帽里的相机，再到近十亿美元的云业务。Balaban 还提出了“神经软件”的概念——AI 不再只是写代码的工具，它本身就会成为软件。 “AI won't write software — it will become the software.”
深读
导读 原文信息有限，以下基于节目简介。这期节目挑战了“GPU 算力将像大宗商品一样变得廉价且充足”的流行观点，Lambda 联合创始人兼 CTO Stephen Balaban 解释了为什么实际情况恰恰相反，以及为什么当前 AI 算力建设仍然严重不足。听完能理解建设千兆瓦级 AI 工厂的真正瓶颈、NVIDIA 的真实护城河，以及“神经软件”这一前瞻概念。 关键信息 - 一块 2023 年出货的 GPU，今天的租赁价格比刚出货时还高，因为新产能跟不上需求。 - 建设千兆瓦级 AI 工厂的真正瓶颈不是芯片，而是土地、电力、冷却和融资结构。 - NVIDIA 的护城河不是硬件，而是 CUDA 和 cuDNN 软件生态，这让切换其他芯片的成本极高。 - Lambda 从面部识别创业公司起步，经历了棒球帽相机等产品，最终成长为近十亿美元的云业务。 - Balaban 提出“神经软件”概念——AI 不再只是写代码的工具，它本身就会成为软件。 逐节讲解 GPU 算力为何没有变成大宗商品 节目开篇就反驳了“GPU 算力会变成大宗商品”的共识。Balaban 指出，实际情况完全相反，算力不仅没有变得廉价和充足，反而越来越稀缺。H100 价格指数被广泛引用，但 Balaban 认为它忽略了关键因素：新产能的增长速度始终落后于需求的爆发式增长。 建设 AI 工厂的真正瓶颈 讨论深入到建设千兆瓦级 AI 工厂的实际挑战。Balaban 强调，芯片本身不是瓶颈，真正的限制来自土地审批、电力供应、冷却系统和融资结构。节目还提到了数据中心面临的公众反弹和错误信息，以及从光子到 token 的能量转换物理过程。 NVIDIA 的真实护城河与多芯片世界 Balaban 认为，NVIDIA 的竞争优势不在于硬件性能，而在于 CUDA 和 cuDNN 软件生态。尽管未来会是多芯片世界，但 NVIDIA 的软件栈让切换成本极高。节目还讨论了网络、存储和“一键集群”的部署体验。 Lambda 的起源故事 Lambda 从面部识别创业公司起步，经历了 Perceptio 和苹果的收购，再到棒球帽相机 Dream Scope，最终以 6 万美元的赌注转型为云业务。Balaban 分享了团队在困难时期的坚持，以及引入新 CEO 后他转任 CTO 的历程。 神经软件：AI 成为软件本身 Balaban 提出“神经软件”概念——AI 不会只是写代码的工具，它本身就会成为软件。这与“vibe coding”形成对比。节目还讨论了 agent 是否会改变计算层，以及 Lambda 内部的自组装软件实践。 值得注意 节目简介只列出了话题标题，没有包含任何对话的具体内容。关于 GPU 租赁价格、建设瓶颈、NVIDIA 护城河等具体论证和数据，均来自简介的概括性描述，而非 Balaban 在节目中的原话。