无限参数 LLM:从实时数据生成权重
来自 Hacker News · 期号 2026-09-18
摘要
传统 LLM 的参数在训练后固定,无法适应新数据。这篇论文提出一种“无限参数”模型,参数不再固定,而是根据输入实时生成。 模型包含一个元网络,它根据当前输入动态生成主网络的权重。这样,模型可以持续从实时数据流中学习,而无需重新训练。 在需要快速适应新数据的任务(如新闻摘要、实时问答)上,该方法表现优于传统微调。论文附有开源代码。
来自 Hacker News · 期号 2026-09-18
传统 LLM 的参数在训练后固定,无法适应新数据。这篇论文提出一种“无限参数”模型,参数不再固定,而是根据输入实时生成。 模型包含一个元网络,它根据当前输入动态生成主网络的权重。这样,模型可以持续从实时数据流中学习,而无需重新训练。 在需要快速适应新数据的任务(如新闻摘要、实时问答)上,该方法表现优于传统微调。论文附有开源代码。
本站只做摘要与索引,全部内容版权归原作者所有。