Neuro-Symbolic Synergy for Interactive World Modeling

📄 arXiv: 2602.10480v1 📥 PDF

作者: Hongyu Zhao, Siyu Zhou, Haolin Yang, Zengyi Qin, Tianyi Zhou

分类: cs.CL

发布日期: 2026-02-11

💡 一句话要点

提出神经符号协同框架NeSyS，提升交互式世界建模的表达性和鲁棒性

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 神经符号协同 世界模型 大型语言模型 交互式环境 知识表示

📋 核心要点

  1. 现有世界模型存在局限，大型语言模型易产生幻觉，符号模型缺乏语义表达。
  2. NeSyS框架融合LLM的语义先验和符号规则，实现表达性和鲁棒性的统一。
  3. 实验表明，NeSyS在多个交互式环境中，显著提升了世界模型预测的准确性和数据效率。

📝 摘要（中文）

大型语言模型(LLMs)展现出强大的通用推理能力，但当用作世界模型(WMs)时，它们经常产生幻觉，而世界模型需要严格遵守确定性的转换规则，尤其是在极端情况下。相比之下，符号世界模型提供逻辑一致性，但缺乏语义表达性。为了弥合这一差距，我们提出了神经符号协同(NeSyS)框架，该框架集成了LLMs的概率语义先验与可执行的符号规则，以实现表达性和鲁棒性。NeSyS在两个模型之间交替训练，使用彼此无法充分解释的轨迹。与基于规则的提示不同，符号WM通过修改LLM的输出概率分布来直接约束LLM。神经WM仅在符号规则未覆盖的轨迹上进行微调，在不损失准确性的前提下，减少了50%的训练数据。在三个不同的交互式环境（即ScienceWorld、Webshop和Plancraft）上的大量实验表明，NeSyS在WM预测准确性和数据效率方面始终优于基线。

🔬 方法详解

问题定义：论文旨在解决交互式世界建模中，大型语言模型（LLMs）作为世界模型（WMs）时容易产生幻觉，而符号世界模型虽然逻辑一致，但缺乏语义表达性的问题。现有的方法要么依赖于LLMs的强大推理能力，但无法保证逻辑一致性；要么依赖于符号规则，但难以处理复杂的语义信息。

核心思路：论文的核心思路是将LLMs的概率语义先验与可执行的符号规则相结合，构建一个神经符号协同（NeSyS）框架。通过让LLMs学习符号规则无法覆盖的轨迹，并利用符号规则约束LLMs的输出，从而实现表达性和鲁棒性的互补。

技术框架：NeSyS框架包含一个神经世界模型（Neural WM）和一个符号世界模型（Symbolic WM）。整体流程如下：1) 使用两个WM分别对环境进行建模和预测；2) 识别彼此无法充分解释的轨迹；3) 使用这些轨迹交替训练两个模型：符号WM通过修改LLM的输出概率分布来约束LLM，神经WM仅在符号规则未覆盖的轨迹上进行微调。

关键创新：NeSyS的关键创新在于神经模型和符号模型的协同训练方式。与传统的规则提示方法不同，NeSyS中的符号WM直接作用于LLM的输出概率分布，从而更有效地约束LLM的行为。此外，通过仅在符号规则未覆盖的轨迹上训练神经WM，显著提高了数据效率。

关键设计：论文中，符号WM的具体实现依赖于特定环境的规则。神经WM通常是一个预训练的LLM，通过微调来适应特定任务。损失函数的设计旨在鼓励神经WM学习符号规则无法覆盖的轨迹，并确保其输出与符号规则保持一致。具体参数设置和网络结构的选择取决于具体的实验环境和任务。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，NeSyS在ScienceWorld、Webshop和Plancraft三个不同的交互式环境中，均显著优于基线方法。例如，在ScienceWorld环境中，NeSyS在WM预测准确性方面取得了显著提升，并且在不损失准确性的前提下，减少了50%的训练数据，展示了其卓越的数据效率。

🎯 应用场景

该研究成果可应用于各种需要进行交互式世界建模的领域，例如游戏AI、机器人导航、智能助手等。通过结合神经模型的泛化能力和符号模型的逻辑推理能力，可以构建更加智能、可靠的交互系统，提升用户体验和系统性能。未来，该方法有望扩展到更复杂的环境和任务中，实现更高级别的智能。

📄 摘要（原文）

Large language models (LLMs) exhibit strong general-purpose reasoning capabilities, yet they frequently hallucinate when used as world models (WMs), where strict compliance with deterministic transition rules--particularly in corner cases--is essential. In contrast, Symbolic WMs provide logical consistency but lack semantic expressivity. To bridge this gap, we propose Neuro-Symbolic Synergy (NeSyS), a framework that integrates the probabilistic semantic priors of LLMs with executable symbolic rules to achieve both expressivity and robustness. NeSyS alternates training between the two models using trajectories inadequately explained by the other. Unlike rule-based prompting, the symbolic WM directly constrains the LLM by modifying its output probability distribution. The neural WM is fine-tuned only on trajectories not covered by symbolic rules, reducing training data by 50% without loss of accuracy. Extensive experiments on three distinct interactive environments, i.e., ScienceWorld, Webshop, and Plancraft, demonstrate NeSyS's consistent advantages over baselines in both WM prediction accuracy and data efficiency.