Credal Machine Learning for Risk-Averse Decision Making

📄 arXiv: 2610.12115v1 📥 PDF

作者: Timo Löhr, Paul Hofman, Maximilian Muschalik, Eyke Hüllermeier

分类: cs.LG, stat.ML

发布日期: 2026-10-08

💡 一句话要点

提出基于信念集的机器学习方法以解决风险规避决策问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 风险规避 条件风险价值 信念集 机器学习 决策支持 不确定性建模 强化学习

📋 核心要点

  1. 现有方法在处理风险规避时，常常受到对真实损失分布不确定性的影响，导致效果不佳。
  2. 本文提出通过信念集来表示学习者的不确定性，并结合新决策规则实现CVaR最小化。
  3. 实验结果表明，该方法在多种任务中有效避免了灾难性决策，且期望性能损失极小。

📝 摘要（中文）

在许多机器学习应用中，必须防范最坏情况和可能导致重大损失的预测。理论上，可以通过训练风险规避的预测模型来实现这一目标，最小化条件风险价值（CVaR）等损失函数。然而，实际中，由于学习者对真实损失分布及其CVaR的不确定性，这种风险规避方法的有效性受到削弱。为实现可靠的风险规避，本文提出了一种方法，通过信念集表示这种（认知）不确定性，开发出一种高效且可靠的学习器，生成信念集形式的预测，并结合一种新颖的决策规则，将每个信念集映射到单一的预测分布以实现CVaR最小化。我们的研究在分类、分布转移和强化学习中可靠地避免了灾难性决策，同时在期望性能上几乎没有牺牲。

🔬 方法详解

问题定义：本文旨在解决机器学习中风险规避决策的问题，现有方法因对真实损失分布的不确定性而效果不佳。

核心思路：通过使用信念集来表示学习者的认知不确定性，开发出一种高效的学习器，生成信念集形式的预测，并结合新决策规则进行CVaR最小化。

技术框架：整体架构包括信念集生成模块和决策规则模块。信念集生成模块负责输出一组概率分布，而决策规则模块则将这些分布映射为单一的预测分布。

关键创新：最重要的创新在于将信念集引入风险规避决策中，显著提升了模型在面对不确定性时的可靠性，与传统方法相比，能够更好地处理最坏情况。

关键设计：在参数设置上，损失函数采用条件风险价值（CVaR），网络结构设计为能够生成信念集的高效学习器，确保在多种情境下的鲁棒性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，所提出的方法在分类任务中相较于基线模型在CVaR最小化上有显著提升，能够有效避免灾难性决策，且在期望性能上几乎没有损失。具体性能数据表明，模型在面对分布转移和强化学习任务时表现出色，可靠性显著增强。

🎯 应用场景

该研究的潜在应用领域包括金融风险管理、医疗决策支持和自动驾驶等需要考虑最坏情况的场景。通过提供更可靠的决策支持，该方法能够有效降低潜在损失，提升系统的安全性和稳定性。未来，该方法有望在更多领域得到推广和应用。

📄 摘要（原文）

In many machine learning applications, it is necessary to guard against worst-case scenarios and predictions that could result in substantial losses. In principle, this can be achieved by training risk-averse predictive models that minimize loss functions such as conditional value-at-risk (CVaR), rather than relying on models that perform well on average. In practice, however, the effectiveness of this approach to risk aversion is undermined by the learner's uncertainty regarding the true loss distribution and, consequently, the true CVaR. To achieve reliable risk-aversion, we propose a method in which this (epistemic) uncertainty is represented in terms of credal sets, i.e., sets of probability distributions. More specifically, we develop an efficient yet reliable learner that produces predictions in the form of credal sets and combine it with a novel decision rule that maps each credal set to a single predictive distribution for CVaR minimization. Across classification, under distribution shift, and in reinforcement learning, our approach reliably avoids catastrophic decisions, while sacrificing little in expected performance.