Transformer

Transformer 的双轨时间线。事件 4 条，评价 2 条。

发生了什么

2026-10-15 · arXiv 论文 — 提出弹性模型方法，推理时可按预算连续调整大小，剪掉60%参数性能平滑下降
2026-09-17 · arXiv 论文 — 论文证明架构设计（模型增长、循环深度、边界算子）能改变预训练缩放指数
2026-09-01 · arXiv 论文 — 新参数化方案在布尔表达式、模运算和 ListOps 上达 100% 准确率
2023-03-16 · Transformer Circuits Thread — 论文发现残差流存在特权基，初步认定 Adam 优化器是成因

大家怎么看

2026-07-29 · Training Data — 创始人认为 Transformer 已走到极限，继续堆算力不会带来更智能的系统
2026-06-03 · Unsupervised Learning — Lukasz Kaiser认为当前架构在数据效率和泛化上存在根本局限

本站只做摘要与索引，全部内容版权归原作者所有。