先解决人类对齐问题
来自 Madhu Guru · 期号 2026-09-12
摘要
Meta AI 研究员 Madhu Guru 认为，在解决 AI 对齐之前，人类自身存在严重的对齐问题。 他观察到，各方对 Dario Amodei 文章的反应充满恶意，这令人不安。他虽不完全同意 Dario 的观点，但认为这是一篇值得所有人阅读的深思熟虑之作，并建立在 Demis Hassabis 7 月提出的想法之上。 Guru 提出，人类需要先对齐几个问题：AI 的机会、风险与二阶效应是什么？如何衡量？企业、政府和国家如何协调？ 他认为，如果人类能团结一致，AI 将造福人类。