Auditing and Fixing Economic Validity in Tabular Foundation Models for Discrete Choice
作者: Yingshuo Wang, Xian Sun, Yanhang Li, Zhichao Fan, Zexin Zhuang
分类: cs.LG, cs.AI, econ.EM
发布日期: 2026-05-26
备注: 5 pages, 1 table. Accepted at the FMSD Workshop, ICML 2026
💡 一句话要点
提出双阶段适配器,保证表格基础模型在离散选择预测中的经济有效性
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 表格数据 基础模型 离散选择 经济有效性 适配器 效用最大化 需求预测
📋 核心要点
- 现有表格基础模型在离散选择预测中准确率高,但常违反经济学基本原理,如价格与需求间的关系。
- 提出两阶段适配器,首先估计符合经济理论的选择模型,然后利用基础模型预测进行修正,提升预测准确性。
- 实验表明,该方法在保证经济一致性的前提下,比传统模型提升高达13%的准确率。
📝 摘要(中文)
表格基础模型在选择预测任务中表现出强大的准确性,但其预测结果经常违反经济逻辑:价格上涨有时会增加预测需求,并且隐含的支付意愿估计值经常为负或不合理。我们提出了一种两阶段适配器,将基础模型的预测嵌入到效用最大化框架中。在第一阶段,我们估计一个标准的选择模型,其参数被约束为遵守经济理论。在第二阶段,我们冻结这些参数,并训练一个校正项,该校正项将基础模型的预测作为附加信息。结果是一个模型,它继承了基础模型的准确性增益,同时保证了政策扰动下价格-需求关系的单调性,并产生可分析计算的权衡度量。在两个交通运输数据集上,该适配器比标准logit模型恢复了高达13个百分点的准确率,同时保持了完美的经济一致性,这是原始基础模型和传统知识蒸馏都无法实现的。
🔬 方法详解
问题定义:论文旨在解决表格基础模型在离散选择预测任务中,虽然预测准确率高,但经常违反经济学基本原理的问题。例如,预测结果可能出现价格上涨导致需求增加的反常现象,或者计算出的支付意愿为负值,这使得模型在实际应用中缺乏经济有效性。现有方法,包括直接使用基础模型或进行知识蒸馏,都无法有效解决这一问题。
核心思路:论文的核心思路是将基础模型的预测结果融入到一个符合经济理论的效用最大化框架中。通过约束模型的参数,使其满足经济学原理,从而保证预测结果的经济有效性。同时,利用基础模型的预测信息来提升模型的预测准确率。
技术框架:该方法采用两阶段适配器框架。第一阶段,估计一个标准的离散选择模型(如Logit模型),并对模型参数施加约束,以确保其符合经济理论。这些约束通常涉及价格与需求之间的单调性关系。第二阶段,冻结第一阶段估计的参数,并训练一个校正项。该校正项以基础模型的预测结果作为输入,用于修正第一阶段模型的预测,从而在保证经济有效性的前提下,提升预测准确率。
关键创新:该方法的关键创新在于将基础模型的预测与经济理论相结合,通过两阶段适配器框架,既保证了预测结果的经济有效性,又充分利用了基础模型的预测能力。与传统的知识蒸馏方法相比,该方法能够更好地保留基础模型的预测信息,并将其转化为符合经济学原理的预测结果。
关键设计:第一阶段的关键设计在于选择合适的离散选择模型和施加合理的经济约束。第二阶段的关键设计在于选择合适的校正项模型,并设计合适的损失函数,以平衡预测准确率和经济有效性。具体的损失函数可能包括预测误差项和经济约束违反项,通过调整两者的权重来控制模型的经济有效性。
📊 实验亮点
实验结果表明,该适配器在两个交通运输数据集上,相较于标准Logit模型,准确率提升高达13个百分点,同时保持了完美的经济一致性。而原始基础模型和传统的知识蒸馏方法都无法同时达到高准确率和经济有效性。这表明该方法在提升预测准确率的同时,有效解决了基础模型预测结果违反经济学原理的问题。
🎯 应用场景
该研究成果可应用于交通运输、零售、能源等多个领域,用于更准确、更符合经济规律的需求预测和定价策略制定。例如,在交通领域,可以预测不同票价下的乘客选择行为,从而优化票价策略;在零售领域,可以预测不同商品价格下的销售量,从而制定更有效的促销方案。该方法有助于企业做出更明智的决策,提高运营效率和盈利能力。
📄 摘要(原文)
Tabular foundation models achieve strong accuracy on choice prediction tasks, but their predictions often violate the economic logic those tasks require: raising a price sometimes increases predicted demand, and implied willingness-to-pay estimates are frequently negative or implausible. We propose a two-stage adapter that embeds foundation model predictions within a utility-maximization framework. In the first stage, we estimate a standard choice model whose parameters are constrained to obey economic theory. In the second stage, we freeze those parameters and train a correction term that incorporates the foundation model's predictions as additional information. The result is a model that inherits the foundation model's accuracy gains while guaranteeing monotonic price-demand relationships under policy perturbation and producing analytically computable trade-off measures. On two transportation datasets, the adapter recovers up to 13 percentage points of accuracy over a standard logit model while maintaining perfect economic consistency, something neither the raw foundation models nor conventional distillation achieve.