站内快照 · 国内可打开。外网原文可能无法访问。
- 论文公开站arXiv
LLM何时应弃答？用于选择性风险控制的自问链
When Should LLMs Abstain? Chain-of-Self-Questioning for Selective Risk Control
摘要显示，论文提出仅靠提示词的 Chain-of-Self-Questioning（CoSQ）框架，让模型在明确评估回答问题所需信息后再决定是否作答。在 TruthfulQA 817 题多选题验证集上，用 11 个开源与托管模型家族测试 17 种条件：平衡选项协议下 Grounded-CoSQ（τ=0.90）将平均无条件错误作答率从思维链提示的 13.1% 降至 8.9%，相对下降 32.1%，作答准确率由 86.9% 升至 89.7%，覆盖 87.6% 问题，且 11 个模型、各阈值均成立。
意义：为开发者提供无需训练、可调阈值的拒答机制，在高风险场景中以可控覆盖率降低无依据作答风险。