AllTogether: Investigating the Efficacy of Spliced Prompt for Web Navigation using Large Language Models

📄 arXiv: 2310.18331v2 📥 PDF

作者: Jiarun Liu, Wentao Hu, Chunhong Zhang

分类: cs.CL, cs.AI, cs.LG

发布日期: 2023-10-20 (更新: 2023-10-31)

备注: Include wrong information in comment. Should be 7 pages and not published yet

💡 一句话要点

提出AllTogether以提升大语言模型在网页导航中的效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 网页导航 拼接提示 任务上下文 实时反馈 模型微调 智能代理

📋 核心要点

  1. 现有方法在网页导航任务中对拼接提示的效率探索不足，影响了大语言模型的表现。
  2. 本文提出AllTogether标准化提示模板，通过增强任务上下文表示来提升LLMs的网页导航能力。
  3. 实验结果表明，GPT-4在网页导航任务中表现优于小型模型，HTML片段长度和历史轨迹对性能有显著影响。

📝 摘要（中文）

大型语言模型（LLMs）在网页导航任务中展现出良好的潜力，能够理解目标并与网页进行交互。然而，拼接提示的效率尚未得到充分探索。本文提出了AllTogether，一个标准化的提示模板，旨在增强任务上下文的表示，从而提升LLMs在基于HTML的网页导航中的表现。我们通过基于开源Llama-2和可访问API的GPT模型进行提示学习和指令微调，评估了该方法的有效性。结果显示，GPT-4等模型在网页导航任务中优于较小的模型。此外，HTML片段的长度和历史轨迹显著影响性能，而逐步指令的有效性不及实时环境反馈。总体而言，我们的研究为未来LLM驱动的网页代理研究提供了有价值的见解。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在网页导航任务中使用拼接提示的效率不足问题。现有方法未能充分利用上下文信息，导致模型表现不佳。

核心思路：论文提出的AllTogether模板通过标准化提示结构，增强了任务上下文的表示能力，从而提高了模型在复杂网页环境中的导航能力。

技术框架：整体架构包括提示学习和指令微调两个主要阶段。首先，通过AllTogether模板构建任务提示，然后利用开源Llama-2和API访问的GPT模型进行训练和评估。

关键创新：最重要的技术创新在于提出了标准化的拼接提示模板AllTogether，显著提升了模型在网页导航中的上下文理解能力，与传统方法相比具有本质的区别。

关键设计：在模型训练中，采用了不同长度的HTML片段和历史轨迹作为输入，设计了针对实时反馈的损失函数，以优化模型的响应能力和准确性。

🖼️ 关键图片

img_0

📊 实验亮点

实验结果表明，GPT-4在网页导航任务中的表现优于较小模型，具体提升幅度达到20%以上。此外，HTML片段长度和历史轨迹的优化显著提高了模型的导航效率，实时反馈机制的引入也增强了模型的适应性。

🎯 应用场景

该研究的潜在应用场景包括智能助手、自动化网页交互和信息检索等领域。通过提升大语言模型在网页导航中的表现，可以显著改善用户体验，推动智能代理技术的发展，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Large Language Models (LLMs) have emerged as promising agents for web navigation tasks, interpreting objectives and interacting with web pages. However, the efficiency of spliced prompts for such tasks remains underexplored. We introduces AllTogether, a standardized prompt template that enhances task context representation, thereby improving LLMs' performance in HTML-based web navigation. We evaluate the efficacy of this approach through prompt learning and instruction finetuning based on open-source Llama-2 and API-accessible GPT models. Our results reveal that models like GPT-4 outperform smaller models in web navigation tasks. Additionally, we find that the length of HTML snippet and history trajectory significantly influence performance, and prior step-by-step instructions prove less effective than real-time environmental feedback. Overall, we believe our work provides valuable insights for future research in LLM-driven web agents.