文章指出大语言模型的置信度评分本质上不可靠，因为它是通过相同的下一个token预测机制生成的，'90%确定'与其他输出并无本质区别。作者区分了认知不确定性（可通过更多数据减少）和偶然不确定性（不可消除），并提出用概率分布替代单点估计，作为通过RLCD解决幻觉问题的方向。
背景
大语言模型的置信度校准一直是未解决的难题，模型往往给出过度自信的表达而与实际准确率不匹配。RLCD（可能指基于置信度/分布数据的强化学习）是一种新兴方法，旨在训练模型表达经过校准的不确定性，而非依赖隐式的下一词元流畅性。
- 来源
- Lobsters
- 发布时间
- 2026年9月28日 23:04
- 评分
- 5.0 / 10