字节找到了DeepSeek时强时弱的原因

摘要

字节跳动的研究发现，DeepSeek等大模型回答时好时坏，原因可能与输入Token的“站位”有关。模型在处理长文本时，不同位置的Token对最终推理结果的影响权重不同，导致同一问题在不同输入顺序下得到不同答案。这一发现有助于理解模型的不稳定性，并为优化输入结构提供方向。