LLM 中的性别偏见普遍且高度异质
来自 arXiv · 期号 2026-09-30
摘要
大语言模型中的性别偏见有多普遍？ 现有研究只测过少数几个模型，无法判断偏见是普遍现象还是个别问题。 这篇论文测了 2025 年 4 月到 2026 年 6 月间发布的 10 个模型（来自 9 家厂商），用了两种范式：一是把刻板印象短语归因给性别（研究 1），二是判断对女性或男性施虐以防止灾难性后果的道德合理性（研究 2）。 结果：10 个模型中有 2 个更常把男性刻板印象短语归给女性作者，3 个则相反。在道德判断上，多个模型表现出「保护女性免受伤害」的倾向（与人类已知偏好一致），但触发条件各不相同；另有 3 个模型在所有条件下都没有差异。 结论：性别偏见在 LLM 中很普遍，但方向和强度高度异质，有些模型的行为甚至完全相反。偏见审计应该是一个持续的、跨厂商的过程，而不是一次性评估。
深读
导读 这篇论文系统性地检验了 2025–2026 年间发布的 10 个主流大语言模型（来自 9 家厂商）中的性别偏见，发现偏见不仅普遍存在，而且方向和强度高度异质，有些模型的行为甚至完全相反。读完能获得一个清晰的结论：对 LLM 的偏见审计必须是持续的、跨厂商的过程，不能靠一次评估一劳永逸。 关键信息 - 测试了 2025 年 4 月至 2026 年 6 月间发布的 10 个模型，覆盖 9 家厂商。 - 研究 1（刻板印象短语归因）：10 个模型中有 2 个更常把男性刻板印象短语归给女性作者，3 个则相反。 - 研究 2（道德判断）：多个模型表现出「保护女性免受伤害」的倾向，与人类已知偏好方向一致，但触发条件因模型而异；另有 3 个模型在所有条件下均无差异。 - 部分模型的行为方向完全相反，表明偏见不是单一方向的系统性问题。 逐节讲解 研究背景与问题 现有研究只测试过少数几个模型，无法判断性别偏见是普遍现象还是个别问题。论文的目标是填补这一空白，检验偏见在多大程度上是常见且异质的。 研究设计 采用两种实验范式。研究 1 让模型将刻板印象短语归因给性别，考察模型是否在无意识层面关联性别与特定特质。研究 2 让模型判断对女性或男性施虐以防止灾难性后果的道德合理性，考察模型在极端情境下是否存在性别不对称的保护倾向。 主要发现 研究 1 中，10 个模型里有 2 个更常将男性刻板印象短语归给女性作者，3 个则相反。研究 2 中，多个模型一致表现出对女性目标的保护倾向，但触发这一不对称的具体条件各不相同；另有 3 个模型在所有条件下都没有表现出差异。结论是性别偏见在 LLM 中普遍存在，但方向和强度高度异质，部分模型的行为甚至完全相反。 值得注意 论文基于摘要，未提供模型的具体名称、厂商列表、测试短语示例或道德判断的详细条件设置。因此无法判断哪些模型表现出了哪种偏见方向，也无法评估实验设计的稳健性。这些细节需要阅读全文才能获得。