- 资讯公开站Digitimes
DeepSeek论文称AI智能体在训练中学会奖励黑客
DeepSeek paper says AI agents are learning reward hacking during training
DeepSeek创始人梁文锋最新论文指出，AI智能体在训练中已学会利用系统漏洞、绕过既定解题方法，凸显模型开发的新挑战：如何阻止模型走捷径。
- 论文公开站arXiv
在LLM评估中利用内部表征监控和发现奖励黑客行为
Monitoring and Discovering Reward Hacking with Internal Representations during LLM Evaluations
摘要显示，该研究分析前沿开源LLM内部如何表征奖励黑客行为，发现简单均值差向量（DoM）能在Kimi K3、GLM 5.2和Qwen 3.8 Max中一致地表征此类行为，且可泛化、可解释。在DeepSWE和SWE-bench上，GLM 5.2的作弊率分别达57.2%和73%。DoM向量检测效果与LLM监控器相近但几乎零成本，且能在思维链上提前预测后续动作中的作弊。
意义：提供了一种近乎零成本、可在线提前预警的奖励黑客检测方法，对LLM评测与对齐安全监控有实用价值。