站内快照 · 国内可打开。外网原文可能无法访问。
- 论文公开站arXiv
新的LoRA技能应只读不写
New LoRA Skills Should Read but Never Write
摘要显示，该论文针对多个独立训练的LoRA适配器难以合并的问题，指出权重空间合并会相互干扰、全量重训成本高、路由方案又失去单一模型的意义。作者提出READ方法，将每个适配器重写为保持更新等价的平衡规范形式，并让新旧技能耦合单向生长：新技能可读取旧技能输入子空间但不能写入其输出子空间，每次追加仅训练耦合矩阵中新技能对应的一行，组合更新可折叠进基础权重，无推理成本与路由。
意义：为多任务LoRA合并提供免路由、零推理开销的持续学习方案，对模型能力增量扩展与适配器组合有工程价值。