- 论文公开站arXiv
AD-WM：面向反事实模型预测控制的动作判别世界模型
AD-WM: Action-Discriminative World Models for Counterfactual Model Predictive Control
摘要显示，潜在世界模型通常只优化事实转移预测，但 MPC 需要比较同一状态下的不同动作，因此可能出现预测误差低却难以区分候选动作的问题。作者提出 AD-WM，将残差潜在动力学与预测器层面的动作恢复正则化结合，利用逆动力学和基于条件互信息的归一化恢复目标，使规划转移保留动作信息，测试时丢弃辅助头、不改变 MPC。在 OGBench-Cube 上，硬启动成功率从匹配 LeWM 基线的 3.7% 提升到 52.0%，五个仿真环境中有四个平均成…
意义：提示世界模型应优化动作判别性而非仅事实预测精度，为基于 MPC 的规划与机器人策略迁移提供可复用的正则化思路。
- 论文公开站arXiv
最小范数单变量双层ReLU分类：带跳跃连接的精确解与全局最优性
Minimal-Norm Univariate Two-Layer ReLU Classification: Exact Solutions and Global Optimality with Skip Connections
摘要研究单变量两层ReLU网络二分类的最小范数插值与ℓ2正则逻辑损失最小化，给出函数空间中最优分类器的完整几何刻画，并区分隐层偏置是否计入参数范数两种情形。摘要显示，偏置不受罚时最小范数插值器为贴合每次标签切换的分段仿射函数；偏置受罚时函数空间解唯一，每个同类标签段内恰有一个折点，构成最稀疏正间隔分类器。加入自由仿射跳跃连接不改变函数空间解，但使约束问题的每个KKT点全局最优。
意义：为理解浅层ReLU网络的隐层偏置与跳跃连接如何影响优化景观和稀疏性提供精确理论刻画，对网络设计与正则化选择有参考价值。
- 论文公开站arXiv
通过迭代去对齐估计罕见事件
Rare Event Estimation via Iterative Unalignment
摘要显示，该研究针对自主智能体随机输出轨迹中极稀有但可能灾难性的事件，提出一种新的重要性采样方法：通过可微扰动原模型权重构造提议分布，并联合事件放大可微代理与自适应正则化以平衡放大与估计稳定性。在约1.2亿和26亿参数模型、三类事件族、300多个稀有事件（稀有度低至10^-9）上评估，最可验证设置下相较朴素蒙特卡洛获得超过800倍计算加权效率提升。
意义：为评估自主智能体极端风险提供了可扩展的稀有事件概率估计工具，降低安全部署中风险量化的算力门槛。
- 论文公开站arXiv
RRSI：智能体框架的正则化递归自我改进
RRSI: Regularized Recursive Self-Improvement of Agent Harnesses
摘要显示，LLM 智能体的能力很大程度上由其运行框架（提示、控制流、工具、记忆与上下文管理）放大，近期方法通过迭代提出并筛选框架组件的编辑来实现智能体系统层面的递归自我改进，但容易记忆训练任务、在分布外基准上增益消失。作者提出 RRSI，在候选提出与选择环节引入正则化：提出器采用时间退火预算并鼓励探索未走过的演化路径，选择器配备评论器与剪枝器过滤基准特定、过小、过贵或失效的改动。在编码、智能体工作区与工程设计等八个基准上，摘要称其在演化…
意义：为智能体框架自动演化提供抗过拟合思路，提示开发者关注可复用机制而非基准特定调优。
- 论文公开站arXiv
模型增长、递归和边界算子如何影响缩放指数
How Model Growth, Recursion, and Boundary Operators Influence Scaling Exponents
摘要显示，该研究挑战了缩放定律中指数固定的传统认知，指出架构干预可改变预训练缩放指数，从而随算力增加带来指数级性能提升。作者以循环Transformer为锚点，发现模型增长（含是否共享权重）对缩放指数影响最大：7.4B增长架构在CORE上以约20倍更少算力匹配GPT-3 13B，且算力效率增益随规模增大。普通Transformer中加入边界算子也有较小增益；数据受限多轮训练下，循环具正则化效果，且随规模增加循环数为算力最优。
意义：若缩放指数可被架构改变，则算力效率提升会随规模放大，为开发者提供超越单纯堆参数的新扩展路径。
- 论文公开站arXiv
剖析数据稀缺机器人插入中的运动先验正则化
Dissecting Motion-Prior Regularization for Data-Scarce Robotic Insertion
摘要显示，该研究在仅用15次演示训练扩散策略的条件下，比较了最小加加速度、速度-曲率正则化及组合方式对机器人插入成功率的影响，每设置进行80次真实机器人试验。联合与仅最小加加速度均达70/80成功（87.5%），仅速度-曲率为69/80（86.3%），无先验为66/80（82.5%），通用平滑为67/80（83.8%）。联合正则化比无先验高5个百分点，但未优于仅最小加加速度，研究未证实协同效应或安全性提升。
意义：为数据稀缺下的机器人扩散策略训练提供了先验正则化的实证对比，提示最小加加速度是更简单可复现的候选方案。
- 论文公开站arXiv
BioKERN：通过生物核正则化实现组织学-转录组学的邻域检索
BioKERN: Biological Kernel Regularization for Histology-to-Transcriptomics Neighborhood Retrieval
摘要介绍BioKERN，一种多模态空间表征学习框架，通过结合转录组相似性和空间邻近性构建训练时的生物核，提供分级邻域监督并正则化嵌入几何。在Mouse Brain Visium和Human Liver GSE240429数据集上，BioKERN在单尺度和多尺度设置下均优于BLEEP，且受控实验表明改进主要源于生物核正则化而非模型容量增加。
意义：为空间生物学多模态学习提供可解释的归纳偏置，帮助开发者构建保留生物结构的表征，提升检索性能。
- 论文公开站arXiv
局部蒸馏：实现可解释AI的新方法
Interpretable AI with Local Distillation
摘要提出局部蒸馏方法，通过黑箱教师模型指导正则化线性学生模型，在查询点附近实现高精度与可解释性。教师通过加权相似预测结果的训练观测定义局部性，并利用伪观测锚定拟合。通过高斯随机化评估特征选择稳定性，并在17个基准数据集上验证，局部蒸馏在保持高精度的同时提供透明解释。
意义：该方法为高 stakes 决策提供兼顾准确性与可解释性的模型，有助于增强AI信任度，推动可解释AI在金融、医疗等领域的应用。
- 论文公开站arXiv
牛顿法的原始加速方法
Primal Acceleration of Newton's Method
我们开发了一种新的直接加速牛顿法，用于最小化具有Lipschitz连续Hessian的凸函数。该算法仅使用原始变量，每次迭代只需一次线性求解。通过简单的预定参数选择，它在函数残差方面达到O(1/k^3)的全局收敛率。据我们所知，这是此类问题中第一种在每次迭代仅依赖一次线性系统求解（无需求解辅助非线性正则化子问题，如三次正则化，执行非线性参数搜索或使用对偶外梯度校正）就达到此速率的一阶方法。我们的方法可以以无Hessian方式实现，使用非…
意义：该算法在保持二阶方法快速收敛的同时，大幅降低了计算成本，为大规模凸优化提供了新选择，可能推动机器学习中相关问题的求解效率。
