- 论文公开站arXiv
轨迹上的信息:鞅与随机时间
Information on trajectories: martingales and random times
摘要显示,在非负鞅的轨迹路径空间上考虑信息流,可得到精确的变分恒等式,即使在任意随机时间也成立。该恒等式统一了从Ville不等式到PAC-Bayes的经典集中不等式,并量化了每个不等式所丢弃的信息。尾部界限控制的是相对熵,通过链式法则分解为逐步骤的条件散度。在三种几何中,丢弃的松弛量具有精确形式:Gibbs倾斜(用于Azuma-Hoeffding和PAC-Bayes界)、交叉本身(用于Ville和合并检验)以及支配证书(用于Lp最大界)。在路径-时间空间上,该恒等式增加了一个因子,用于定价预期:任意随机时间携带一个e过程“偷看惩罚”。配分函数可视为合并过程(独立副本的前缀共享概率),测试鞅的几何混合为多模型安全测试带来合并收益。
Accounting for information flow on the path space of trajectories of a nonnegative martingale yields exact variational identities, even at arbitrary random times. This recovers classical concentration inequalities, from Ville to PAC-Bayes, and measures what each one discards.
意义:该研究为鞅不等式提供了统一框架,可量化各界的松弛量,对在线统计和机器学习中的安全测试、置信序列设计有重要指导意义。