谁在给 GPU 喂数据？AI 隐藏的 300 亿美元层

来自 The MAD Podcast with Matt Turck · 期号 2026-09-24

摘要

人人都谈 GPU，但很少有人谈给 GPU 喂数据的那一层。VAST Data 创始人兼 CEO Renen Hallak 解释了这家估值 300 亿美元的公司如何为 xAI 和全球最大的 AI 云提供底层存储架构。 AI 工厂的核心不是算力，而是数据管道。VAST 的 DASE 架构（Disaggregated Shared Everything）让存储、计算和内存不再各自为政，而是统一成一个共享池。KV 缓存、RAG 和 agent 记忆都跑在这层之上。 一个客户的需求从 500 PB 涨到 2 EB，连 Hallak 自己都说“有时候这让我害怕”。他认为未来十年发生的变化会比过去一千年还大。 本文是深度访谈，涉及 AI 基础设施的隐藏层、VAST 与 NVIDIA 的 DataEnclave 合作、以及 AI 工厂的经济学。

深读

导读 原文信息有限，以下基于节目简介。本期节目深入AI基础设施中常被忽视的“喂GPU”层。VAST Data创始人兼CEO Renen Hallak解释了这家估值300亿美元的公司如何为xAI和全球最大AI云提供底层存储架构，并讨论了AI工厂的真实形态、DASE架构、与NVIDIA的DataEnclave合作，以及AI基础设施的经济学。读完能理解AI工厂中数据管道为何比算力更核心，以及未来十年基础设施层将发生怎样的剧变。 关键信息 - VAST Data估值300亿美元，为xAI和全球最大的AI云提供底层存储架构。 - 一位客户的需求从500 PB涨到2 EB，连Hallak本人也称“有时候这让我害怕”。 - VAST与NVIDIA联合发布DataEnclave，一种机密AI方案，允许顶级模型运行在世界上最敏感的数据上。 - Hallak认为未来十年发生的变化将超过过去一千年。 逐节讲解 AI工厂的隐藏层：谁在给GPU喂数据 人人都谈论GPU，但很少有人谈论给GPU喂数据的那一层。VAST Data正处在这个隐藏层中。节目首先点明，AI工厂的核心不是算力，而是数据管道，存储、计算和内存必须统一成一个共享池，才能高效地为GPU持续供给数据。 DASE架构与AI工厂的真实形态 VAST的DASE架构（Disaggregated Shared Everything）让存储、计算和内存不再各自为政，而是统一成一个共享池。KV缓存、RAG和agent记忆都跑在这层之上。节目讨论了AI工厂的真实定义：一家公司白天做推理、晚上做微调，基础设施需要同时支持两种工作负载。Hallak还探讨了沃尔玛和高盛这类公司是否应该自建AI，以及为什么每个公司最终都会拥有自己的AI。 与NVIDIA的DataEnclave合作及机密AI VAST与NVIDIA联合发布了DataEnclave，这是一项机密AI方案，允许领先模型运行在世界上最敏感的数据上，同时保护数据和模型权重。节目讨论了谁应该成为AI的信任层，以及这一合作如何解决企业采用AI时的安全顾虑。 需求信号与AI基础设施经济学 一个客户的需求从500 PB涨到2 EB，连Hallak自己都说这让他感到害怕。节目还讨论了AI基础设施中的循环融资是否正在制造系统性风险，以及为什么VAST在AI基础设施普遍亏损的情况下能够盈利。Hallak也分析了哪些neocloud会存活下来，以及为什么超大规模云厂商在AI时代反而落后。 与xAI的合作及未来展望 VAST从与xAI和Elon Musk的合作中学到了“坏消息要大声且频繁地讲”的AI速度文化。Hallak认为，未来十年发生的变化将超过过去一千年。VAST的终局目标是管理世界上所有的数据。 值得注意 由于节目简介只列出了话题标题，没有展开对话内容，以上解读仅基于简介中提到的主题方向，无法还…

读原文