PTrajM: Efficient and Semantic-rich Trajectory Learning with Pretrained Trajectory-Mamba

📄 arXiv: 2408.04916v1 📥 PDF

作者: Yan Lin, Yichen Liu, Zeyu Zhou, Haomin Wen, Erwen Zheng, Shengnan Guo, Youfang Lin, Huaiyu Wan

分类: cs.LG

发布日期: 2024-08-09

💡 一句话要点

PTrajM：基于预训练轨迹Mamba的高效语义轨迹学习方法

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 轨迹学习 车辆轨迹 Mamba 预训练 时空数据 出行目的 交通预测

📋 核心要点

  1. 现有轨迹学习方法难以高效提取轨迹中的时空连续移动行为，且难以从复杂文本特征中提取出行目的。
  2. PTrajM利用Trajectory-Mamba高效建模连续移动行为，并采用出行目的感知预训练提取轨迹的出行目的。
  3. 在真实数据集上的实验表明，PTrajM在轨迹学习任务上优于现有方法，证明了其有效性。

📝 摘要（中文）

车辆轨迹为各种实际应用提供了关键的移动信息。为了更好地利用车辆轨迹，开发一种能够有效且高效地提取丰富的语义信息（包括移动行为和出行目的）的轨迹学习方法至关重要，以支持准确的下游应用。然而，创建这种方法面临两个重大挑战。首先，移动行为本质上是时空连续的，这使得从不规则和离散的轨迹点中高效提取它们变得困难。其次，出行目的与车辆经过的区域和路段的功能相关。这些功能无法从原始时空轨迹特征中获得，并且很难直接从与这些区域和路段相关的复杂文本特征中提取。为了应对这些挑战，我们提出了一种新颖的方法PTrajM，它能够进行高效且语义丰富的车辆轨迹学习。为了支持移动行为的高效建模，我们引入了Trajectory-Mamba作为PTrajM的可学习模型，该模型有效地提取连续的移动行为，同时比现有结构更具计算效率。为了促进出行目的的高效提取，我们提出了一种出行目的感知预训练程序，该程序使PTrajM能够在嵌入过程中无需额外的计算资源即可辨别轨迹的出行目的。在两个真实世界数据集上进行的大量实验以及与几种最先进的轨迹学习方法的比较证明了PTrajM的有效性。

🔬 方法详解

问题定义：论文旨在解决车辆轨迹学习中，如何高效提取轨迹中的移动行为和出行目的这两个关键问题。现有方法在处理时空连续的轨迹数据时，计算效率较低，并且难以有效利用区域和路段的文本信息来推断出行目的。这些痛点限制了轨迹数据在下游应用中的潜力。

核心思路：论文的核心思路是利用Trajectory-Mamba模型来高效建模轨迹的时空连续性，并通过出行目的感知的预训练方法，使模型能够从轨迹数据中推断出车辆的出行目的。这种设计旨在提高轨迹学习的效率和语义丰富性。

技术框架：PTrajM的整体框架包括两个主要部分：Trajectory-Mamba模型和出行目的感知预训练。首先，Trajectory-Mamba模型用于提取轨迹的移动行为特征。然后，通过出行目的感知预训练，模型学习将轨迹与相应的出行目的联系起来。在推理阶段，PTrajM可以直接输出包含移动行为和出行目的信息的轨迹嵌入。

关键创新：PTrajM的关键创新在于：1) 引入Trajectory-Mamba模型，相比于传统RNN或Transformer结构，更高效地建模轨迹的时空连续性；2) 提出出行目的感知预训练方法，使模型能够直接从轨迹数据中推断出行目的，无需额外的计算资源。

关键设计：Trajectory-Mamba模型基于Mamba架构，针对轨迹数据的特点进行了优化。出行目的感知预训练通过构建包含轨迹和出行目的信息的训练数据集，并设计合适的损失函数，使模型能够学习到轨迹与出行目的之间的映射关系。具体的参数设置和损失函数细节在论文中有详细描述。

🖼️ 关键图片

img_0

📊 实验亮点

论文在两个真实世界数据集上进行了实验，结果表明PTrajM在轨迹学习任务上显著优于现有的轨迹学习方法。具体的性能提升数据在论文中有详细展示。实验结果验证了Trajectory-Mamba模型在轨迹建模方面的优势，以及出行目的感知预训练的有效性。代码已开源。

🎯 应用场景

PTrajM的研究成果可广泛应用于智能交通系统、城市规划、物流管理等领域。例如，可以利用PTrajM进行交通流量预测、异常行为检测、个性化路线推荐等。通过准确理解车辆的移动行为和出行目的，可以优化交通资源分配，提高交通效率，并为用户提供更智能的出行服务。该研究的未来影响在于推动智能交通系统的发展，构建更安全、高效、便捷的出行环境。

📄 摘要（原文）

Vehicle trajectories provide crucial movement information for various real-world applications. To better utilize vehicle trajectories, it is essential to develop a trajectory learning approach that can effectively and efficiently extract rich semantic information, including movement behavior and travel purposes, to support accurate downstream applications. However, creating such an approach presents two significant challenges. First, movement behavior are inherently spatio-temporally continuous, making them difficult to extract efficiently from irregular and discrete trajectory points. Second, travel purposes are related to the functionalities of areas and road segments traversed by vehicles. These functionalities are not available from the raw spatio-temporal trajectory features and are hard to extract directly from complex textual features associated with these areas and road segments. To address these challenges, we propose PTrajM, a novel method capable of efficient and semantic-rich vehicle trajectory learning. To support efficient modeling of movement behavior, we introduce Trajectory-Mamba as the learnable model of PTrajM, which effectively extracts continuous movement behavior while being more computationally efficient than existing structures. To facilitate efficient extraction of travel purposes, we propose a travel purpose-aware pre-training procedure, which enables PTrajM to discern the travel purposes of trajectories without additional computational resources during its embedding process. Extensive experiments on two real-world datasets and comparisons with several state-of-the-art trajectory learning methods demonstrate the effectiveness of PTrajM. Code is available at https://anonymous.4open.science/r/PTrajM-C973.