DelayPTC-LLM: Metro Passenger Travel Choice Prediction under Train Delays with Large Language Models

📄 arXiv: 2410.00052v1 📥 PDF

作者: Chen Chen, Yuxin He, Hao Wang, Jingjing Chen, Qin Luo

分类: cs.LG

发布日期: 2024-09-28

备注: 15 pages,4 figures

💡 一句话要点

提出DelayPTC-LLM，利用大语言模型预测地铁延误下的乘客出行选择

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 乘客出行选择预测 地铁延误 提示工程 城市轨道交通 数据稀疏 样本不平衡

📋 核心要点

  1. 现有方法难以处理地铁延误下乘客出行选择预测中数据稀疏和样本不平衡问题。
  2. DelayPTC-LLM利用大语言模型，通过提示工程，考虑乘客异质性和延误事件特征进行预测。
  3. 实验表明，DelayPTC-LLM在预测精度上优于传统模型，能为交通大数据提供可行性见解。

📝 摘要（中文）

本文提出了一种新颖的基于大语言模型（LLM）的地铁延误下乘客出行选择预测框架DelayPTC-LLM。在网络化运营条件下，列车延误会在城市轨道交通（URT）网络中迅速传播，给运营部门带来重大挑战。准确预测列车延误下乘客的出行选择，可以为客流重新分配提供可解释的见解，为应急响应和服务恢复提供关键的决策支持。然而，由于乘客异质性导致出行选择的多样性，以及延误事件的稀疏性，使得地铁延误下的出行选择数据集存在数据稀疏和样本不平衡的问题。传统的机器学习方法通常依赖于大型平衡数据集，难以解决这个问题。DelayPTC-LLM通过精心设计的提示工程，引导LLM在考虑乘客异质性和延误事件特征的情况下，对出行选择进行预测和推理。利用深圳地铁的真实数据（包括自动售检票系统（AFC）数据和详细的延误日志），DelayPTC-LLM与传统预测模型进行了对比分析，验证了LLM在处理交通系统中断下常见的复杂稀疏数据集方面的卓越能力。结果表明，DelayPTC-LLM在预测精度方面具有优势，并有潜力为大数据交通提供可操作的见解。

🔬 方法详解

问题定义：论文旨在解决城市轨道交通网络中，列车延误情况下，如何准确预测乘客出行选择的问题。现有方法，如传统的机器学习模型，在处理由于乘客异质性和延误事件稀疏性导致的数据稀疏和样本不平衡问题时表现不佳，难以提供准确的预测和可解释的客流分配信息。

核心思路：论文的核心思路是利用大语言模型（LLM）在文本处理、理解以及小样本甚至零样本学习方面的优势，将乘客出行选择预测问题转化为一个语言理解和推理问题。通过精心设计的提示（Prompt），引导LLM理解乘客的出行背景、延误信息以及可能的出行选择，并生成合理的预测结果。

技术框架：DelayPTC-LLM框架主要包含以下几个阶段：1) 数据预处理：对AFC数据和延误日志进行清洗和整合，提取乘客出行特征和延误事件特征。2) 提示工程：设计合适的提示模板，将乘客出行背景、延误信息以及可能的出行选择转化为自然语言描述。3) LLM预测：将提示输入到LLM中，LLM根据提示生成乘客出行选择的预测结果。4) 结果评估：将LLM的预测结果与真实出行选择进行对比，评估模型的预测精度。

关键创新：该论文的关键创新在于将大语言模型应用于地铁延误下的乘客出行选择预测问题，并提出了基于提示工程的DelayPTC-LLM框架。与传统的机器学习方法相比，DelayPTC-LLM能够更好地处理数据稀疏和样本不平衡问题，并且能够提供更可解释的预测结果。此外，通过提示工程，可以灵活地调整LLM的预测行为，使其更好地适应不同的场景和需求。

关键设计：提示工程是DelayPTC-LLM的关键设计。提示模板需要包含足够的信息，以便LLM能够理解乘客的出行背景、延误信息以及可能的出行选择。同时，提示模板的设计需要简洁明了，避免引入不必要的噪声。论文中可能使用了不同的提示模板，并对它们进行了实验和比较，以选择最佳的提示模板。具体的参数设置和损失函数取决于所使用的大语言模型，论文中应该会详细描述所使用的LLM及其配置。

📊 实验亮点

实验结果表明，DelayPTC-LLM在深圳地铁数据集上取得了优于传统预测模型的性能。具体而言，DelayPTC-LLM在预测精度方面显著提升，尤其是在处理稀疏数据和不平衡样本时。论文通过与多种基线模型进行对比，验证了DelayPTC-LLM的有效性和优越性。具体的性能数据和提升幅度需要在论文中查找。

🎯 应用场景

该研究成果可应用于城市轨道交通的智能运营管理，例如，在列车延误发生时，预测乘客的出行选择，从而优化客流组织方案，减少乘客的出行延误。此外，该研究还可以为城市交通规划提供决策支持，例如，评估不同线路的抗风险能力，优化线路布局，提高城市轨道交通系统的整体效率。

📄 摘要（原文）

Train delays can propagate rapidly throughout the Urban Rail Transit (URT) network under networked operation conditions, posing significant challenges to operational departments. Accurately predicting passenger travel choices under train delays can provide interpretable insights into the redistribution of passenger flow, offering crucial decision support for emergency response and service recovery. However, the diversity of travel choices due to passenger heterogeneity and the sparsity of delay events leads to issues of data sparsity and sample imbalance in the travel choices dataset under metro delays. It is challenging to model this problem using traditional machine learning approaches, which typically rely on large, balanced datasets. Given the strengths of large language models (LLMs) in text processing, understanding, and their capabilities in small-sample and even zero-shot learning, this paper proposes a novel Passenger Travel Choice prediction framework under metro delays with the Large Language Model (DelayPTC-LLM). The well-designed prompting engineering is developed to guide the LLM in making and rationalizing predictions about travel choices, taking into account passenger heterogeneity and features of the delay events. Utilizing real-world data from Shenzhen Metro, including Automated Fare Collection (AFC) data and detailed delay logs, a comparative analysis of DelayPTC-LLM with traditional prediction models demonstrates the superior capability of LLMs in handling complex, sparse datasets commonly encountered under disruption of transportation systems. The results validate the advantages of DelayPTC-LLM in terms of predictive accuracy and its potential to provide actionable insights for big traffic data.