A Data Synthesis Method Driven by Large Language Models for Proactive Mining of Implicit User Intentions in Tourism

📄 arXiv: 2505.11533v1 📥 PDF

作者: Jinqiang Wang, Huansheng Ning, Tao Zhu, Jianguo Ding

分类: cs.CL

发布日期: 2025-05-14

💡 一句话要点

SynPT：一种基于大语言模型的旅游领域隐式用户意图主动挖掘数据合成方法

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 数据合成 隐式意图挖掘 旅游领域 主动提问

📋 核心要点

  1. 现有方法在旅游领域缺乏适应性，初始查询的细节级别分布不均，隐式意图挖掘模块存在上下文冗余，且缺乏对游客情感和意图价值的显式思考。
  2. SynPT的核心思想是构建一个LLM驱动的用户代理和助理代理，模拟对话并生成包含显式推理的训练数据集，从而提升LLM在旅游领域隐式意图挖掘的能力。
  3. 实验结果表明，SynPT在人工和LLM评估中均优于现有方法，证明了其在主动挖掘隐式用户意图方面的有效性，并展示了其在实际应用中的潜力。

📝 摘要（中文）

本文提出了一种名为SynPT的数据合成方法，该方法利用大语言模型（LLMs）驱动，旨在解决旅游领域中LLMs难以从游客模糊查询中挖掘隐式意图，以及缺乏主动引导用户明确需求的难题。SynPT构建了一个基于LLM的用户代理和助理代理，通过模拟对话，并结合从中国旅游网站收集的种子数据，生成包含显式推理的SynPT-Dialog训练数据集。该数据集用于微调通用LLM，使其能够主动挖掘隐式用户意图。实验结果表明，与现有方法相比，SynPT在人工和LLM评估中均表现出优越性。此外，论文还分析了关键超参数，并通过案例研究展示了该方法的实际应用，包括其在英语场景中的适应性。所有代码和数据均已公开。

🔬 方法详解

问题定义：论文旨在解决旅游领域中，大语言模型难以从游客模糊的查询中挖掘出其潜在的意图，并且缺乏主动引导用户明确自身需求的能力。现有方法存在领域适应性不足、初始查询细节分布不均、上下文冗余以及缺乏对用户情感和意图价值的考虑等痛点。

核心思路：论文的核心思路是利用大语言模型驱动的数据合成方法，生成高质量的训练数据集，用于微调通用大语言模型，使其具备主动挖掘旅游领域用户隐式意图的能力。通过模拟用户和助理之间的对话，并显式地加入推理过程，从而提升模型的推理能力和领域知识。

技术框架：SynPT的技术框架主要包含两个LLM驱动的代理：用户代理和助理代理。用户代理负责模拟游客的查询，助理代理负责主动提问并挖掘用户的隐式意图。这两个代理基于从中国旅游网站收集的种子数据进行对话模拟，生成SynPT-Dialog数据集。然后，使用该数据集对通用LLM进行微调，使其具备主动挖掘隐式用户意图的能力。

关键创新：SynPT的关键创新在于其数据合成方法，该方法专门针对旅游领域，并考虑了用户情感和意图价值。通过显式地加入推理过程，解决了现有方法中上下文冗余的问题。此外，SynPT还通过调整初始查询的细节级别分布，提高了生成数据的质量。

关键设计：SynPT的关键设计包括用户代理和助理代理的prompt设计，以及对话模拟的策略。论文可能使用了特定的prompt模板来引导LLM生成高质量的对话。此外，论文还可能使用了特定的损失函数来优化微调过程，例如，对比学习损失或生成对抗损失。具体的网络结构和参数设置在论文中应该有详细描述（未知）。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，SynPT在人工和LLM评估中均优于现有方法。具体而言，SynPT在隐式意图挖掘的准确率方面取得了显著提升（具体数值未知），并且能够生成更自然、更流畅的对话。案例研究也表明，SynPT在实际应用中具有良好的效果，能够有效地挖掘用户的隐式意图并提供个性化的旅游建议。

🎯 应用场景

该研究成果可应用于智能旅游助手、旅游推荐系统、个性化旅游规划等领域。通过主动挖掘用户的隐式意图，可以为用户提供更精准、更个性化的旅游服务，提升用户体验。未来，该方法有望推广到其他领域，例如医疗、教育等，以解决类似的用户意图理解问题。

📄 摘要（原文）

In the tourism domain, Large Language Models (LLMs) often struggle to mine implicit user intentions from tourists' ambiguous inquiries and lack the capacity to proactively guide users toward clarifying their needs. A critical bottleneck is the scarcity of high-quality training datasets that facilitate proactive questioning and implicit intention mining. While recent advances leverage LLM-driven data synthesis to generate such datasets and transfer specialized knowledge to downstream models, existing approaches suffer from several shortcomings: (1) lack of adaptation to the tourism domain, (2) skewed distributions of detail levels in initial inquiries, (3) contextual redundancy in the implicit intention mining module, and (4) lack of explicit thinking about tourists' emotions and intention values. Therefore, we propose SynPT (A Data Synthesis Method Driven by LLMs for Proactive Mining of Implicit User Intentions in the Tourism), which constructs an LLM-driven user agent and assistant agent to simulate dialogues based on seed data collected from Chinese tourism websites. This approach addresses the aforementioned limitations and generates SynPT-Dialog, a training dataset containing explicit reasoning. The dataset is utilized to fine-tune a general LLM, enabling it to proactively mine implicit user intentions. Experimental evaluations, conducted from both human and LLM perspectives, demonstrate the superiority of SynPT compared to existing methods. Furthermore, we analyze key hyperparameters and present case studies to illustrate the practical applicability of our method, including discussions on its adaptability to English-language scenarios. All code and data are publicly available.