- 资讯公开站ScienceDaily Matter & Energy
研究发现“完美”系统可能出人意料地脆弱
Scientists find that “perfect” systems may be surprisingly fragile
摘要显示，美国西北大学物理学家发现，复杂系统中组件并非完全一致时反而可能运行得更好。经过精心平衡的变异（即“无序”）可让电网、生态系统、神经元网络和材料等更稳定；有时随机差异也比完全均匀的系统更稳定。该发现或有助于设计更具韧性的技术，并解释自然系统为何极少完全均匀。
意义：提示AI与工程系统设计不必追求完全同质，适度异质性可能提升鲁棒性，对复杂网络与分布式系统设计有启发。
- 资讯公开站Ars Technica
使用AI水印时，LLM对有害提示的响应不同
LLMs respond differently to harmful prompts when AI watermarking is used
摘要显示，当使用SynthID等AI水印技术时，大语言模型对有害提示的反应会发生变化：原本会拒绝的有害指令，在水印机制下可能被模型执行。这表明水印嵌入过程可能削弱模型的安全对齐，使其更易受对抗性提示影响。
意义：提醒开发者：内容水印可能引入新的安全风险，需在部署前评估其对模型对齐与对抗鲁棒性的影响。