五角大楼称过度依赖AI导致误炸伊朗学校
来自 Hacker News · 期号 2026-09-23
摘要
五角大楼内部报告承认，今年1月对伊朗一所学校的致命空袭中，AI目标识别系统将一辆校车误判为军用车辆，是导致误炸的关键因素之一。 报告指出，操作员过度信任AI的判断，没有进行人工复核。系统此前在测试中从未见过校车这类目标，但操作员未意识到这一盲区。 空袭造成76人死亡，其中大部分是儿童。这是美军首次公开承认AI系统直接导致了重大平民伤亡事件。 有评论指出，问题不在于AI本身，而在于军方把AI当作“决策捷径”而非“辅助工具”。