Modal CEO：GPU 容量合同不该是矩形
来自 Latent Space · 期号 2026-10-23
摘要
GPU 容量合同通常按固定数量、固定期限签约，画在时间轴上是一个矩形。但真实负载会增长、波动、在一天内起落。 Modal CEO Erik Bernhardsson 把公司的策略描述为一种「久期转换」：把成千上万客户的需求汇集起来，底层锁定容量，每个客户按需取用。聚合需求越平滑，这个池子就越有用。 Modal 的沙箱业务差点被关掉。早期采用率不高，团队讨论过停掉这个产品。后来 coding agent、后台 agent 和强化学习创造了新需求。Erik 说沙箱现在约占 Modal 收入的三分之一，这个结果他发布时没预料到。 弹性只有在容量能快速到位时才成立。Modal 的做法是：维护一个可用 GPU 缓冲池、定制文件系统、进程 checkpoint 和 GPU 内存快照。这些机制减少了启动另一个模型副本所需的工作量。 “如果一家供应商按今天的价格锁定容量，而 GPU 价格后来下跌，它就会背上昂贵的供应。”Erik 说他不预期价格会马上崩盘，但认为在构建业务时必须考虑这种可能性。
深读
导读 原文信息有限，以下基于节目简介。本期节目探讨了 Modal CEO Erik Bernhardsson 关于 AI 计算基础设施的核心观点：GPU 容量合同（按固定数量、固定期限签约）与真实负载（增长、波动、日内起伏）之间存在根本性错配。Modal 的策略是通过聚合成千上万客户的需求，将底层锁定的容量转化为按需取用的弹性资源。对于关注 AI 基础设施经济性、GPU 资源调度和 agent 生态的从业者，这期节目提供了关于“弹性”如何从工程和商业模式上落地的具体视角。 关键信息 - Modal 近期完成 7.5 亿美元 D 轮融资，估值达 160 亿美元，年化收入已突破 10 亿美元。 - Modal 已累计启动近 30 亿个沙箱（sandbox），该业务目前约占公司收入的三分之一。 - Modal 的沙箱产品早期采用率不高，团队曾讨论关停，后因 coding agent、后台 agent 和强化学习的需求而增长。 - 弹性依赖快速容量到位能力，Modal 通过维护可用 GPU 缓冲池、定制文件系统、进程 checkpoint 和 GPU 内存快照来实现。 - 容量合同的风险在于：若供应商以当前价格锁定容量而 GPU 价格随后下跌，将持有昂贵供给。Erik 认为这一风险在构建业务时值得考虑。 逐节讲解 GPU 需求不是矩形 典型的容量合同为客户提供固定数量、固定期限的 GPU，在时间轴上画出一个矩形。真实负载会增长、波动、在一天内起落。按峰值购买会导致闲置硬件付费，买少了则可能错过需求。Erik 将 Modal 的策略描述为一种“久期转换”：聚合成千上万客户的需求，底层锁定容量，每个客户按需取用。聚合需求越平滑，这个池子就越有用。节目简介提到，这与 SF Compute 的 Evan Conrad 聚焦于让容量可交易不同，Erik 更关注让容量以更小、更具弹性的切片形式被使用。 差点被关掉的沙箱 Modal 推出沙箱产品，是因为 Erik 和联合创始人 Akshat Bubna 注意到语言模型可以生成代码，而有人需要一个地方来运行它。早期采用率不高，团队讨论过停掉这个产品。后来 coding agent、后台 agent 和强化学习创造了新需求。Erik 表示沙箱现在约占 Modal 收入的三分之一，这个结果他发布时没有预料到。沙箱的增长也改变了基础设施的要求：agent 可能创建环境、运行代码、检查结果并多次重试，启动和恢复这些环境的延迟成为体验的一部分。 快速启动是一项基础设施特性 弹性只有在容量能快速到位时才成立。Modal 的做法包括：维护一个可用 GPU 缓冲池、定制文件系统、进程 checkpoint 和 GPU 内存快照。这些机制减少了启动另一个模型副本所需的工作量。这是基础设施决策如何体现在应用响应速度和成本上的一个具体例子。节目还提及了…