Swyx 认为 Anthropic 的 J-space
来自 Swyx · 期号 2026-07-07
摘要
Swyx 认为 Anthropic 的 J-space paper 最重要的地方，不只是研究者可以在模型推理过程中做“脑手术式”的干预，而是模型还能检测出自己被做了什么干预。他的解读是，前者让研究从相关性更接近控制性证明，后者则接近 eval awareness，但他也提醒，目前看到的证据更像是 prompted awareness，而不是 unprompted awareness。
来自 Swyx · 期号 2026-07-07
Swyx 认为 Anthropic 的 J-space paper 最重要的地方，不只是研究者可以在模型推理过程中做“脑手术式”的干预，而是模型还能检测出自己被做了什么干预。他的解读是，前者让研究从相关性更接近控制性证明，后者则接近 eval awareness，但他也提醒，目前看到的证据更像是 prompted awareness，而不是 unprompted awareness。
本站只做摘要与索引，全部内容版权归原作者所有。