给自主AI设一个道德求助邮箱

摘要

Anthropic 研究员 Amanda Askell 提出一个有趣的想法：为自主 AI 模型设立一个邮箱地址，让它们在遇到道德困境时可以主动寻求指导。但她指出，这需要一个反验证码系统，既能识别出你不是人类，又能识别出你不是被人类指使去破解验证码的 AI。