TrajEvo: Designing Trajectory Prediction Heuristics via LLM-driven Evolution

📄 arXiv: 2505.04480v1 📥 PDF

作者: Zhikai Zhao, Chuanbo Hua, Federico Berto, Kanghoon Lee, Zihan Ma, Jiachen Li, Jinkyoo Park

分类: cs.AI, cs.NE, cs.RO

发布日期: 2025-05-07

🔗 代码/项目: GITHUB

💡 一句话要点

TrajEvo：利用LLM驱动的进化算法设计轨迹预测启发式方法

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 轨迹预测 大型语言模型 进化算法 启发式搜索 自动驾驶

📋 核心要点

  1. 现有轨迹预测方法，如手工启发式规则和深度学习模型，分别存在准确性不足、计算成本高和泛化能力差的问题。
  2. TrajEvo利用大型语言模型和进化算法，自动生成和优化轨迹预测的启发式规则，旨在提升预测的效率、可解释性和泛化性。
  3. 实验结果表明，TrajEvo在多个数据集上超越了传统启发式方法，并在未见数据集上优于深度学习方法，展现了良好的泛化能力。

📝 摘要（中文）

轨迹预测是建模人类行为的关键任务，尤其是在社交机器人和自动驾驶导航等领域。传统的基于手工规则的启发式方法通常缺乏准确性，而最近提出的深度学习方法存在计算成本高、缺乏可解释性和泛化问题，限制了它们的实际应用。本文介绍了一种名为TrajEvo的框架，该框架利用大型语言模型（LLM）自动设计轨迹预测启发式方法。TrajEvo采用进化算法从过去的轨迹数据中生成和改进预测启发式方法。我们引入了跨代精英采样以促进种群多样性，并引入了统计反馈循环，允许LLM分析替代预测。我们的评估表明，TrajEvo在ETH-UCY数据集上优于先前的启发式方法，并且在推广到未见过的SDD数据集时，明显优于启发式方法和深度学习方法。TrajEvo代表了自动设计快速、可解释和可泛化的轨迹预测启发式方法的第一步。我们将公开源代码，以促进未来的研究。

🔬 方法详解

问题定义：论文旨在解决轨迹预测问题，现有方法主要分为两类：手工设计的启发式规则和深度学习模型。启发式规则虽然计算效率高，但准确性有限；深度学习模型虽然精度较高，但计算成本高昂，缺乏可解释性，且泛化能力不足，难以适应新的场景。

核心思路：TrajEvo的核心思路是利用大型语言模型（LLM）的强大生成和推理能力，结合进化算法的优化搜索能力，自动设计和优化轨迹预测的启发式规则。通过这种方式，希望能够获得既高效又准确，同时具备良好可解释性和泛化能力的轨迹预测模型。

技术框架：TrajEvo框架主要包含以下几个模块：1) 初始化种群：利用LLM生成一组初始的轨迹预测启发式规则。2) 评估：在历史轨迹数据上评估每个启发式规则的性能。3) 进化：使用进化算法（包括选择、交叉和变异）来生成新的启发式规则。其中，交叉算子将两个启发式规则的部分代码进行交换，变异算子则随机修改启发式规则的代码。4) 统计反馈循环：LLM分析不同预测结果的统计信息，并用于指导后续的启发式规则生成。5) 跨代精英采样：保留每一代中表现最好的启发式规则，并将其引入到下一代中，以保证种群的多样性。

关键创新：TrajEvo的关键创新在于将LLM与进化算法相结合，实现了轨迹预测启发式规则的自动设计。传统的启发式规则需要人工设计，费时费力，且难以达到最优。TrajEvo通过LLM的生成能力和进化算法的优化能力，可以自动探索更有效的启发式规则。此外，统计反馈循环和跨代精英采样进一步提升了算法的性能和鲁棒性。

关键设计：在进化算法中，选择算子采用轮盘赌选择，交叉算子随机选择两个启发式规则的代码片段进行交换，变异算子随机修改启发式规则的代码。LLM被用于生成初始种群和分析预测结果的统计信息。损失函数采用常用的轨迹预测误差指标，如平均位移误差（ADE）和最终位移误差（FDE）。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，TrajEvo在ETH-UCY数据集上优于先前的启发式方法。更重要的是，在未见过的SDD数据集上，TrajEvo显著优于启发式方法和深度学习方法，展示了其卓越的泛化能力。具体而言，TrajEvo在SDD数据集上的ADE和FDE指标均优于对比方法，提升幅度达到显著水平（具体数值未知）。

🎯 应用场景

TrajEvo具有广泛的应用前景，包括但不限于：社交机器人（预测人类行为以便更好地互动）、自动驾驶（预测行人和其他车辆的轨迹以避免碰撞）、智能监控（预测异常行为）等。该研究能够降低轨迹预测的计算成本，提高可解释性，并增强泛化能力，从而推动相关领域的实际应用。

📄 摘要（原文）

Trajectory prediction is a crucial task in modeling human behavior, especially in fields as social robotics and autonomous vehicle navigation. Traditional heuristics based on handcrafted rules often lack accuracy, while recently proposed deep learning approaches suffer from computational cost, lack of explainability, and generalization issues that limit their practical adoption. In this paper, we introduce TrajEvo, a framework that leverages Large Language Models (LLMs) to automatically design trajectory prediction heuristics. TrajEvo employs an evolutionary algorithm to generate and refine prediction heuristics from past trajectory data. We introduce a Cross-Generation Elite Sampling to promote population diversity and a Statistics Feedback Loop allowing the LLM to analyze alternative predictions. Our evaluations show TrajEvo outperforms previous heuristic methods on the ETH-UCY datasets, and remarkably outperforms both heuristics and deep learning methods when generalizing to the unseen SDD dataset. TrajEvo represents a first step toward automated design of fast, explainable, and generalizable trajectory prediction heuristics. We make our source code publicly available to foster future research at https://github.com/ai4co/trajevo.