- 资讯公开站Entrepreneur
在让AI计算价格、付款等客户行动依据的数字前，每个企业都应运行的测试
The Test Every Business Should Run Before Letting AI Calculate Prices, Payments and Other Numbers Customers Act On
该文章指出，关于AI的讨论多聚焦于哪些环节可以自动化，但摘要显示其核心关切是：当产品中的AI模型向客户提供错误数字并促使其据此行动时，企业该如何应对。文章据此提出，企业在授权AI计算价格、支付及其他客户会直接依赖的数值前，应进行一项测试，以防范错误数字带来的业务风险。
意义：对开发者而言，AI输出错误数值会直接引发交易与信任风险，需在关键计算环节建立校验与兜底机制。
- 论文公开站arXiv
LLM何时应弃答？用于选择性风险控制的自问链
When Should LLMs Abstain? Chain-of-Self-Questioning for Selective Risk Control
摘要显示，论文提出仅靠提示词的 Chain-of-Self-Questioning（CoSQ）框架，让模型在明确评估回答问题所需信息后再决定是否作答。在 TruthfulQA 817 题多选题验证集上，用 11 个开源与托管模型家族测试 17 种条件：平衡选项协议下 Grounded-CoSQ（τ=0.90）将平均无条件错误作答率从思维链提示的 13.1% 降至 8.9%，相对下降 32.1%，作答准确率由 86.9% 升至 89.7%…
意义：为开发者提供无需训练、可调阈值的拒答机制，在高风险场景中以可控覆盖率降低无依据作答风险。