Scaling Text2SQL via LLM-efficient Schema Filtering with Functional Dependency Graph Rerankers

📄 arXiv: 2512.16083v1 📥 PDF

作者: Thanh Dat Hoang, Thanh Tam Nguyen, Thanh Trung Huynh, Hongzhi Yin, Quoc Viet Hung Nguyen

分类: cs.DB, cs.AI, cs.HC, cs.LG

发布日期: 2025-12-18

🔗 代码/项目: GITHUB

💡 一句话要点

提出GRaST，通过LLM高效的模式过滤和函数依赖图重排序，扩展Text2SQL系统处理大规模数据库的能力。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: Text2SQL 大规模数据库 模式过滤 函数依赖图 LLM Steiner树 查询优化

📋 核心要点

  1. 现有Text2SQL系统在处理大规模数据库时，由于LLM上下文长度限制，无法有效利用完整数据库模式信息，导致性能下降。
  2. GRaST框架通过查询感知的LLM编码器进行列排序，利用函数依赖图Transformer进行列重排序，并采用Steiner树启发式算法选择子模式，实现高效模式过滤。
  3. 实验结果表明，GRaST在保持亚秒级延迟的同时，实现了接近完美的召回率和更高的精度，并可扩展到包含数万列的数据库模式。

📝 摘要（中文）

大多数现代Text2SQL系统在提示大型语言模型（LLM）时，会将整个模式（主要是列信息）与用户的问题一起提供。虽然这种方法在小型数据库上有效，但在超出LLM上下文限制的真实模式上会失败，即使是商业模型也是如此。最近的Spider 2.0基准测试就是一个例子，它包含数百个表和数万列，现有系统经常崩溃。目前的缓解措施要么依赖于代价高昂的多步骤提示流水线，要么通过独立于用户问题对列进行排序来过滤列，忽略了列间的结构。为了扩展现有系统，我们引入了GRaST，这是一个开源的、LLM高效的模式过滤框架，它通过以下方式压缩Text2SQL提示：（i）使用查询感知的LLM编码器（富含值和元数据）对列进行排序，（ii）通过函数依赖关系上的轻量级图Transformer对互连的列进行重排序，以及（iii）使用Steiner树启发式算法选择一个保持连通性的子模式。在真实数据集上的实验表明，GRaST实现了接近完美的召回率和比CodeS、SchemaExP、Qwen重排序器和嵌入检索器更高的精度，同时保持了亚秒级的中值延迟，并可扩展到具有23,000+列的模式。我们的源代码可在https://github.com/thanhdath/grast-sql 获得。

🔬 方法详解

问题定义：现有Text2SQL系统在处理大规模数据库时，面临着LLM上下文长度的限制。直接将整个数据库模式（包含大量列信息）输入LLM会导致超出上下文限制，从而影响生成SQL查询的准确性和效率。现有的解决方法，如多步提示或独立列排序，要么成本高昂，要么忽略了列之间的关联结构，效果不佳。

核心思路：GRaST的核心思路是通过高效的模式过滤，减少输入LLM的模式信息量，同时保留关键的列和列之间的关联关系。具体来说，首先对列进行排序，然后利用函数依赖关系对列进行重排序，最后选择一个能够保持连通性的子模式。这样既能降低LLM的计算负担，又能保证生成SQL查询所需的必要信息。

技术框架：GRaST框架包含三个主要阶段：1) 列排序：使用查询感知的LLM编码器，结合列的值和元数据，对数据库中的列进行排序。2) 列重排序：利用函数依赖图Transformer，根据列之间的函数依赖关系对排序后的列进行重排序，提高相关列的排名。3) 子模式选择：使用Steiner树启发式算法，选择一个能够保持连通性的子模式，作为最终输入LLM的模式信息。

关键创新：GRaST的关键创新在于结合了查询感知的LLM编码器、函数依赖图Transformer和Steiner树启发式算法，实现了一种高效且准确的模式过滤方法。与现有方法相比，GRaST不仅考虑了列与查询之间的相关性，还考虑了列之间的关联结构，从而能够更有效地选择关键的模式信息。

关键设计：GRaST使用预训练的LLM作为编码器，并针对Text2SQL任务进行了微调。函数依赖图Transformer采用轻量级设计，以降低计算成本。Steiner树启发式算法用于在保证连通性的前提下，选择尽可能小的子模式。具体的参数设置和网络结构细节在论文中有详细描述。

📊 实验亮点

实验结果表明，GRaST在真实数据集上实现了接近完美的召回率，并且精度高于CodeS、SchemaExP、Qwen重排序器和嵌入检索器等基线方法。GRaST能够处理包含23,000+列的数据库模式，同时保持亚秒级的中值延迟，证明了其在大规模数据库上的高效性和可扩展性。

🎯 应用场景

GRaST框架可应用于各种需要处理大规模数据库的Text2SQL系统，例如智能客服、数据分析平台和自动化报表生成工具。通过提高Text2SQL系统处理大规模数据库的能力，GRaST可以帮助用户更方便地从海量数据中获取所需信息，提高工作效率，并为企业决策提供更准确的数据支持。

📄 摘要（原文）

Most modern Text2SQL systems prompt large language models (LLMs) with entire schemas -- mostly column information -- alongside the user's question. While effective on small databases, this approach fails on real-world schemas that exceed LLM context limits, even for commercial models. The recent Spider 2.0 benchmark exemplifies this with hundreds of tables and tens of thousands of columns, where existing systems often break. Current mitigations either rely on costly multi-step prompting pipelines or filter columns by ranking them against user's question independently, ignoring inter-column structure. To scale existing systems, we introduce \toolname, an open-source, LLM-efficient schema filtering framework that compacts Text2SQL prompts by (i) ranking columns with a query-aware LLM encoder enriched with values and metadata, (ii) reranking inter-connected columns via a lightweight graph transformer over functional dependencies, and (iii) selecting a connectivity-preserving sub-schema with a Steiner-tree heuristic. Experiments on real datasets show that \toolname achieves near-perfect recall and higher precision than CodeS, SchemaExP, Qwen rerankers, and embedding retrievers, while maintaining sub-second median latency and scaling to schemas with 23,000+ columns. Our source code is available at https://github.com/thanhdath/grast-sql.