智能家居剪枝下什么会坏，什么时候坏
来自 arXiv · 期号 2026-09-16
摘要
剪枝能降低大模型部署成本，但它在智能家居场景下对工具调用的影响尚不清楚。 研究者对四种架构（密集 Transformer、密集混合、MoE）的 LLM 做了深度、宽度、混合和专家剪枝，然后在三个智能家居数据集上评测了超过 19,500 个实例。结果发现：密集模型的安全剪枝区间很窄，超出后性能急剧下降；MoE 模型能承受更多剪枝。剪枝先破坏的是对具体设备/参数的识别能力，然后才影响对指令意图的理解；过度剪枝还会导致模型系统性拒绝执行。 论文强调，选剪枝模型不能只看整体准确率。