- 论文公开站arXiv
新的LoRA技能应只读不写
New LoRA Skills Should Read but Never Write
摘要显示，该论文针对多个独立训练的LoRA适配器难以合并的问题，指出权重空间合并会相互干扰、全量重训成本高、路由方案又失去单一模型的意义。作者提出READ方法，将每个适配器重写为保持更新等价的平衡规范形式，并让新旧技能耦合单向生长：新技能可读取旧技能输入子空间但不能写入其输出子空间，每次追加仅训练耦合矩阵中新技能对应的一行，组合更新可折叠进基础权重，无推理成本与路由。
意义：为多任务LoRA合并提供免路由、零推理开销的持续学习方案，对模型能力增量扩展与适配器组合有工程价值。
- 论文公开站arXiv
用于高效端侧LLM生成式个性化的LoRA生成超网络
LoRA-generating hypernetworks for efficient on-device LLM generative personalization
摘要显示，该论文提出一种设备端LLM个性化方法：训练超网络将用户上下文token映射为适合该用户的LoRA，部署后在设备端合成个性化LoRA。该方法结合了上下文学习（ICL）与参数高效微调（PEFT）的优点：设备端阶段仅需前向传播，计算可行；同时通过权重修改基础模型，避免扩展输入序列带来的延迟增加，尤其适合移动设备场景。
意义：为移动端LLM个性化提供无需反向传播的可行路径，降低设备端算力与延迟门槛，对端侧AI应用开发有参考价值。