Neuro-Symbolic Hierarchical Intention Anticipation in Human Behavior

📄 arXiv: 2609.17064v1 📥 PDF

作者: Farnaz Soleimani, Abdelghani Chibani, Yacine Amirat, Ghazaleh Khodabandelou

分类: cs.AI, cs.CV, cs.HC, cs.LG, cs.NE

发布日期: 2026-09-15


💡 一句话要点

提出神经符号层次意图预测以解决人类行为理解问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 层次意图预测 神经符号方法 多模态行为理解 高层意图推断 助理自主系统 行为预测 逻辑约束 结构化预测

📋 核心要点

  1. 现有方法在预测人类行为目标时面临挑战,尤其是在行为未完成时的准确性不足。
  2. 本文提出了一种新的层次规划解码器HPD,结合神经符号方法进行多模态行为的意图推断与预测。
  3. 实验结果显示,模型在多模态情节的预测准确率上显著优于现有基线,尤其在长时间预测中表现突出。

📝 摘要(中文)

助理自主系统必须在观察到的行为完成之前预测人类的目标。本文将意图预测形式化为从部分观察的多模态情节中推断目标,并对剩余行为进行结构化预测,而不是精确的运动预测。一个紧凑的层次规划解码器(HPD)附加在冻结的神经符号识别编码器上,预测四个本体层次的下一步动作、剩余活动、低层意图和情节的高层意图(HLI)。解码器通过结合过渡一致性和层次连续性损失的软神经符号正则化进行训练,并通过强制本体有效性的硬可达性掩码进行解码。在基于NTU RGB+D 120特征构建的15,002个多模态情节的组合四层基准上,观察到三项主要特性。随着预测范围的增加,相较于最强的序列基线,优势从第1步的+1.7分增长到第3步的+7.3分(前5名)。

🔬 方法详解

问题定义:本文旨在解决助理自主系统在观察到的行为未完成时如何准确预测人类的目标。现有方法往往无法有效处理部分观察数据,导致预测准确性不足。

核心思路:提出了一种基于神经符号的层次规划解码器HPD,通过对多模态情节进行结构化预测,推断出人类的高层意图和低层行为,从而提高预测的准确性和有效性。

技术框架:整体架构包括一个冻结的神经符号识别编码器和一个层次规划解码器。解码器在四个本体层次上进行预测,分别为下一步动作、剩余活动、低层意图和高层意图。

关键创新:最重要的创新在于结合了软神经符号正则化和硬可达性掩码,确保了预测的本体有效性和层次一致性,这在现有方法中尚未实现。

关键设计:解码器的训练采用了过渡一致性和层次连续性损失函数,硬可达性掩码则用于在推断时强制执行本体有效性,确保预测结果的逻辑一致性。实验中,软逻辑项显著减少了HLI可达性违规,硬掩码则完全消除了这些违规。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明,模型在15,002个多模态情节的预测中,96.8%的预测轨迹满足联合逻辑约束,显著高于88.1%的最强基线和73.9%的真实值。随着预测范围的增加,模型的优势从第1步的+1.7分提升至第3步的+7.3分,显示出在长时间预测中的强大能力。

🎯 应用场景

该研究具有广泛的应用潜力,尤其在智能助理、机器人交互和人机协作等领域。通过准确预测人类意图,系统能够更好地适应用户需求,提高交互效率和用户体验。未来,该方法可能推动更复杂的自主系统的发展,提升其在动态环境中的适应能力。

📄 摘要(原文)

Assistive autonomous systems must anticipate human goals before an observed behavior is complete. This article formulates anticipation as goal inference from a partially observed multimodal episode together with structured prediction of the remaining behavior, rather than exact motor forecasting. A compact Hierarchical Planning Decoder (HPD) is attached to a frozen neuro-symbolic recognition encoder and predicts, at four ontological levels, the next actions, the remaining activities and low-level intentions, and the episode high-level intention(HLI). The decoder is trained with soft neuro-symbolic regularization combining transition-coherence and hierarchical continuity losses, and is decoded with hard reachability masks that enforce ontological validity at inference. On a compositional four-level benchmark of 15,002 multimodal episodes built over NTU RGB+D 120 features, three headline properties are observed together. The advantage over the strongest sequential baseline grows with the anticipation horizon, from +1.7 points at step 1 to +7.3 points at step 3 (top-5). Under compositional generalization, where one parent association per multi-parent low level intention is held out, this advantage widens to +4.9 points at step 1. At the episode level, 96.8% of anticipated trajectories satisfy the joint logic constraints, above the 88.1% strongest-baseline value and the 73.9% ground-truth floor; soft logic terms alone account for a 59.8 to 71.1% relative reduction of HLI-reachability violations, and the hard masks then eliminate them entirely. Neural generation supplies predictive ranking, symbolic constraints supply onto logical validity, and their combination yields coherent hierarchical anticipation while exposing remaining challenges in compositional goal generalization and unordered set prediction.