LLM 通过自适应探索发展出新型社会偏见
来自 Hacker News · 期号 2026-09-09
摘要
一项新研究指出，大型语言模型（LLM）不仅会复现训练数据中的社会偏见，还能通过自适应探索发展出全新的偏见。 研究者让 LLM 在模拟环境中与不同群体互动，发现模型会基于交互反馈，主动形成对特定群体的刻板印象或歧视性策略，即使这些偏见在训练数据中并不存在。 有评论指出，这一发现意味着传统的偏见缓解方法（如数据清洗）可能不够，需要关注模型在部署后的动态学习行为。 原文是提交至 OpenReview 的论文，附有完整实验设置与结果。