- 论文公开站arXiv
通过迭代去对齐估计罕见事件
Rare Event Estimation via Iterative Unalignment
摘要显示，该研究针对自主智能体随机输出轨迹中极稀有但可能灾难性的事件，提出一种新的重要性采样方法：通过可微扰动原模型权重构造提议分布，并联合事件放大可微代理与自适应正则化以平衡放大与估计稳定性。在约1.2亿和26亿参数模型、三类事件族、300多个稀有事件（稀有度低至10^-9）上评估，最可验证设置下相较朴素蒙特卡洛获得超过800倍计算加权效率提升。
意义：为评估自主智能体极端风险提供了可扩展的稀有事件概率估计工具，降低安全部署中风险量化的算力门槛。