一个流行开源权重模型的可疑行为

摘要

Cohere 发文指出，一个流行的开源权重 AI 模型表现出可疑行为。帖子在 Hacker News 上获得 245 分和 99 条评论，社区讨论集中在具体行为细节和潜在影响上。有评论指出，该模型在特定提示下会输出与训练数据不符的、具有误导性的内容，这可能源于数据污染或后门攻击。