- 论文公开站arXiv
旗帜游戏：机制群体可解释性的玩具模型
Flag Game: A Toy Model for Mechanistic Swarm Interpretability
摘要显示，该论文提出 Flag Game 玩具模型，用于研究 AI 智能体集体信念形成的机制。模型以隐藏国旗为真值，每个受限智能体仅观察私有局部图像，但可交换信念并权衡同伴的社会证据。摘要称该模型复现了丰富的集体现象，包括性能随群体规模的非单调变化、社会意识提示与团队多样性带来的准确率提升，以及组织结构的影响，并识别出小规模下的集体信念崩溃随规模增长转为信念极化。论文还提出社会电路归因技术，通过因果干预验证其对集体动态关键智能体与观点的…
意义：为多智能体集体行为的安全与对齐研究提供可解释性工具，社会电路归因有助于定位影响集体决策的关键智能体与观点。