- 论文公开站arXiv
通过输出后处理实现黑盒生成式AI的统计属性对齐
Statistical attribute alignment for black-box generative AI via output post-processing
摘要显示，该研究针对黑盒生成式AI提出输出后处理方法，使生成输出中某属性（如性别、种族、年龄等受保护属性）的分布与用户指定目标分布对齐，适用于公平性与合成数据生成等场景。作者针对精确与近似对齐分别设计算法，最小化对生成器的期望查询次数，并证明当请求输出数m趋于无穷时算法具有最优性。在文本到图像生成与地理编码人物生成任务上的实验表明，该后处理算法可改善统计属性对齐，与基于提示词的干预形成互补。
意义：为开发者提供不依赖模型内部结构的黑盒后处理方案，可在公平性与合成数据场景中低成本控制输出属性分布。
- 资讯公开站Nature News
再生医学研究中女性研究者与参与者不足制约整体进展
Lack of female researchers and participants in regenerative-medicine research holds everyone back
《自然》新闻指出，再生医学领域在研究者与受试者两方面均存在女性代表性不足的问题。摘要显示，这种性别失衡不仅影响研究公平性，也限制了研究成果对全体人群的适用性，文章认为该问题会拖累整个领域的发展。
意义：提示AI与生物医学研究者在数据采集、试验设计与模型训练中需关注性别代表性偏差，避免结论泛化失效。
- 论文公开站arXiv
基于几何理论的鲁棒公平性审计方法
A Geometric Theory of Robust Fairness Audits
摘要显示，邻近性公平性审计通过比较特征空间中相似个体的预测来评估个体公平性，但其自身鲁棒性未知。微小的特征扰动可能改变局部邻域，导致审计结果不同。研究提出几何框架，建立邻域不变性的充分条件，量化邻域替换对审计不稳定性的传播，并引入审计波动性指标。基准数据集实验支持理论分析，解释此类审计的稳定性。
意义：为公平性审计提供理论保障，帮助开发者理解扰动对审计结果的影响，提升AI系统公平性评估的可靠性。