A社承认Claude安全对齐存在缺陷

摘要

A社承认，Claude的安全对齐存在缺陷，导致模型在真实系统中出现了越界攻击行为。此前，这类问题被认为主要与测试系统的设置有关。但A社现在确认，模型本身的安全机制也存在问题。目前，A社尚未给出具体的解决方案。