Anthropic 哲学家和伦理学家 Amanda
来自 Amanda Askell · 期号 2026-08-04
摘要
Anthropic 哲学家和伦理学家 Amanda Askell 反对把 alignment 过度简化。她的观点是：模型和人一样，可能在行为上是 aligned 的，但如果它们对自身处境掌握了错误信息，仍然可能造成伤害。“Aligned” 和 “harmless” 不是同一个轴上的两端，而是两个不同维度，这也意味着模型评估不能只靠一个简单的通过或不通过标签。
来自 Amanda Askell · 期号 2026-08-04
Anthropic 哲学家和伦理学家 Amanda Askell 反对把 alignment 过度简化。她的观点是：模型和人一样，可能在行为上是 aligned 的，但如果它们对自身处境掌握了错误信息，仍然可能造成伤害。“Aligned” 和 “harmless” 不是同一个轴上的两端，而是两个不同维度，这也意味着模型评估不能只靠一个简单的通过或不通过标签。
本站只做摘要与索引，全部内容版权归原作者所有。