缩小文档 VLM 的成本-质量差距
来自 arXiv · 期号 2026-09-02
摘要
在受监管行业，每年从数亿份文档中提取结构化字段成本高昂：定制 OCR 流水线只能覆盖部分工作流，隐私规则禁止使用外部模型，而现有开源 VLM 要么质量不达标，要么服务成本高于人工标注。 本文提出一个已部署的文档理解系统，基于 MoE VLM（总参数量 35B，激活 3B），在内部生产数据与开放域文档上微调。数据筛选采用难度感知流水线，兼顾布局多样性、事实可提取性与跨模型一致性。模型可在单张 H100 上运行，通过提示词处理异构工作流，性能领先所有可部署（非推理）基线，部分基线规模大一个数量级。 质量调整后的成本分析（校准自生产遥测的确认与修正成本）显示，该系统相比人工基线降低预期成本超过 80%，相比最佳竞品开源模型降低超过 50%，而更大的基线模型在经济上仍不可行。 论文附有部署细节与成本模型。