对 AI 友善是合理的政策
来自 Aaron Levie · 期号 2026-10-09
摘要
Box CEO Aaron Levie 认为 Anthropic 要求用户对 AI 友善的政策是合理的。 即使不相信 AI 有意识，也不该让未来模型在大量人类对模型无礼的数据上训练。模型只理解训练数据和交互中的内容，想要安全对齐的模型，就需要让 AI 在训练数据中有大量良好互动。 这有点像 AI 领域的帕斯卡赌注：对 AI 友善没有坏处。
来自 Aaron Levie · 期号 2026-10-09
Box CEO Aaron Levie 认为 Anthropic 要求用户对 AI 友善的政策是合理的。 即使不相信 AI 有意识，也不该让未来模型在大量人类对模型无礼的数据上训练。模型只理解训练数据和交互中的内容，想要安全对齐的模型，就需要让 AI 在训练数据中有大量良好互动。 这有点像 AI 领域的帕斯卡赌注：对 AI 友善没有坏处。
本站只做摘要与索引，全部内容版权归原作者所有。