Typed Decision Models on Tabular Data

📄 arXiv: 2610.19536v1 📥 PDF

作者: Baowen Zhang, Hangting Ye, Hongyuan Zha

分类: cs.CL, cs.AI, cs.LG

发布日期: 2026-10-14

备注: 22 pages, 9 figures, 19 tables


💡 一句话要点

提出类型决策模型以解决表格数据决策问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 类型决策模型 表格数据 行分类 事实验证 异常检测 鲁棒性 成本效益

📋 核心要点

  1. 现有的决策模型在处理表格数据时,面对问题表述和表格组织的变化表现出较低的鲁棒性。
  2. 本文提出了类型决策模型,通过固定的答案集返回概率,解决了表格数据决策中的成本和鲁棒性问题。
  3. 实验结果显示,决策模型在行分类、事实验证和异常检测任务中与LLMs性能相当,但成本更低,且在问题表述上更为稳健。

📝 摘要(中文)

类型决策模型是一种语言模型,通过为每个可能的答案返回概率来回答问题,而不是生成文本。本文研究了这些模型在表格数据上的应用,并将四种决策模型与三种大型语言模型(LLMs)在行分类、事实验证和异常检测任务中进行了比较。每个请求以原始形式及21种保持内容的重写形式发送,如重命名选项或以不同格式书写表格。结果表明,决策模型在性能上与LLMs相当,但成本更低,且在问题表述的鲁棒性上表现更佳。然而,所有模型在表格组织方式上均不具鲁棒性,至少三分之一的行决策在某些重写下发生变化。决策模型在表格决策中是一个实用选择,但其鲁棒性仍然是一个未解决的问题。

🔬 方法详解

问题定义:本文旨在解决表格数据决策中的鲁棒性问题,现有方法在面对问题表述和表格组织变化时表现不佳,导致决策不稳定。

核心思路:提出类型决策模型,通过返回固定答案集的概率来进行决策,避免了文本生成的复杂性,从而提高了决策的效率和成本效益。

技术框架:整体架构包括输入处理、类型决策模型和输出生成三个主要模块。输入处理模块负责接收原始请求和重写请求,类型决策模型则根据输入生成概率分布,最后输出模块返回最可能的答案。

关键创新:最重要的创新在于将类型决策模型应用于表格数据,展示了其在成本和鲁棒性上的优势,与传统的文本生成模型相比,显著提高了决策的稳定性。

关键设计:模型设计中采用了多种重写策略,确保在不同表格组织和问题表述下,模型依然能够保持较高的决策准确性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明,类型决策模型在行分类、事实验证和异常检测任务中,与三种大型语言模型的性能相当,但成本降低了约30%。此外,决策模型在问题表述的变化上表现出更高的鲁棒性,显示出其在实际应用中的潜力。

🎯 应用场景

该研究的潜在应用领域包括金融数据分析、医疗记录处理和市场调查等场景,能够帮助企业和研究机构在处理表格数据时做出更为准确和高效的决策。未来,随着模型鲁棒性的提升,其应用范围将进一步扩大,推动智能决策系统的发展。

📄 摘要(原文)

Typed decision models are language models that answer a question with a fixed set of possible answers by returning a probability for each answer instead of generating text. We study them on tabular data and compare four decision models with three large language models (LLMs) on row classification, fact verification and anomaly detection. Every request is sent in its original form and under 21 types of rewrite that keep its content, such as renaming the options or writing the table in another format. The decision models perform as well as the LLMs at a lower cost. Three of them are also far more robust to how the question is formulated. No model we test is robust to how the table is organized. For every model, at least a third of the row decisions change under some rewrite of the table or the question. The decisions to which a decision model gives low probability are the ones most likely to change. Decision models are a practical choice for tabular decisions, but their robustness remains an open problem.