AI token 管理不能像发 AWS key 那样随意
来自 Guillermo Rauch · 期号 2026-09-01
摘要
Vercel CEO Guillermo Rauch 认为，公司给开发者发 AI token 的方式，就像直接给一个 AWS key，可以随意从 t3.nano 用到 p5.48xlarge。 他说，公司不会对自己的核心基础设施这么做，因为需要治理、优化和观察使用与成本。实习生可能用 192 vCPU 的机器来托管一个静态网站，账单会让人很不高兴。 AI Gateway 通过按 key 和按用户设置预算，解决了这个问题。