Surge founder and CEO Edwin
来自 AI & I by Every · 期号 2026-07-08
摘要
核心 takeaway：Surge founder and CEO Edwin 认为，AI data work 正在从教模型掌握狭窄技能，演变成一种更接近“raising AGI”的工作：让模型学习 taste、judgment、math、language，以及如何在真实世界的混乱中运作。 Surge 为模型公司提供 data environments 和 evals，而 Edwin 把这件事描述成建造“this school for AGI, the school where AI models come to learn about humanity”。他的观点是，frontier 已经变了：几年前模型还在 GSM8K 这种 middle-school math benchmark 上挣扎；一年前让人兴奋的问题是 IMO-style problems；现在边界已经来到 research-level mathematics，包括 Riemann bench，以及模型似乎使用高级 algebraic geometry techniques 来反驳 open conjectures 的例子。 更有意思的部分不只是能力，而是人类意义。Edwin 相信 scaling laws 意味着“there’s nothing that humans can do that AI won’t soon be capable of”，这会带来一个风险：人类因为 AI 做得更好，就不再学习、不再创造、不再自己证明东西。他的回答更像是道德选择，而不是技术方案：人类可能需要有意识地继续自己做事，不是因为产出最优，而是因为保留 humanity 本身有价值。 他还认为 AI system 不应该主要优化 engagement，而应该优化 human growth。一个好的模型，有时应该说：别再迭代了，发出这封邮件，或者你自己去做这件事。这和最大化 session length 是完全不同的目标，也可能决定 AI 到底是 capability amplifier，还是另一种 addictive feed。