ArgLLM-App: An Interactive System for Argumentative Reasoning with Large Language Models
作者: Adam Dejl, Deniz Gorur, Francesca Toni
分类: cs.CL, cs.AI
发布日期: 2026-02-27
备注: AAMAS 2026 Demonstration Track
DOI: 10.65109/NWEK7590
💡 一句话要点
提出ArgLLM-App，一个基于论证推理的大语言模型交互系统，用于二元决策任务。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 论证推理 大语言模型 可解释性AI 人机交互 决策支持
📋 核心要点
- 现有决策方法缺乏透明度，难以解释和辩驳，阻碍了人机协作。
- ArgLLM-App利用论证型大语言模型，结合计算论证，实现可解释的决策过程。
- 系统支持可视化解释和用户交互，允许用户识别和纠正推理错误，提升决策质量。
📝 摘要（中文）
本文提出ArgLLM-App，一个基于Web的系统，它利用论证型大语言模型（ArgLLM）赋能的智能体进行决策，尤其适用于二元任务。该方法旨在使决策过程对人类用户而言是可解释且可辩驳的。ArgLLM-App支持对生成的解释进行可视化，并允许用户与系统进行交互，从而识别和质疑系统推理中的任何错误。该系统具有高度模块化特性，能够从可信的外部来源获取信息。ArgLLM-App已公开发布，并提供视频演示。
🔬 方法详解
问题定义：论文旨在解决现有决策系统缺乏可解释性和可辩驳性的问题。传统的决策系统，特别是基于黑盒模型（如深度学习）的系统，难以向用户解释其决策过程，也无法让用户有效地质疑和修正系统中的错误。这限制了人机协作的效率和用户对系统的信任。
核心思路：论文的核心思路是利用论证型大语言模型（ArgLLM）来构建决策系统。ArgLLM结合了大语言模型的强大推理能力和计算论证的严谨性，使得决策过程能够以论证的形式呈现，从而提高决策的可解释性和可辩驳性。用户可以通过分析论证的结构和内容，理解系统做出决策的原因，并提出质疑和反驳。
技术框架：ArgLLM-App的整体框架包含以下几个主要模块：1) ArgLLM智能体：负责根据输入信息生成论证，进行决策；2) 知识库接口：允许ArgLLM智能体从外部可信来源获取信息；3) 可视化模块：将生成的论证以易于理解的方式呈现给用户；4) 交互模块：允许用户与系统进行交互，例如提出质疑、提供反馈等。整个流程是，用户输入问题，ArgLLM智能体生成论证并做出决策，系统将论证可视化，用户可以审查论证并提出质疑，系统根据用户的反馈进行调整。
关键创新：该系统的关键创新在于将论证推理与大语言模型相结合，并构建了一个交互式的应用系统。传统的基于大语言模型的决策系统通常缺乏可解释性，而ArgLLM-App通过论证的形式将决策过程呈现出来，使得用户可以理解和质疑系统的推理过程。此外，该系统还支持从外部知识库获取信息，从而提高决策的准确性和可靠性。
关键设计：ArgLLM-App的关键设计包括：1) 论证生成策略：如何利用大语言模型生成高质量的论证；2) 论证可视化方法：如何将复杂的论证结构以清晰易懂的方式呈现给用户；3) 用户交互机制：如何设计有效的交互方式，让用户能够方便地提出质疑和提供反馈。论文中可能涉及prompt工程，以指导LLM生成特定结构的论证。具体参数设置和损失函数等细节未知，需要查阅相关文献。
🖼️ 关键图片
📊 实验亮点
ArgLLM-App通过可视化论证和用户交互，显著提升了决策的可解释性和可辩驳性。用户能够更容易地识别和纠正系统推理中的错误，从而提高决策的准确性和可靠性。具体的性能提升数据未知，但该系统为构建可信赖的人工智能系统提供了一个有价值的实践案例。
🎯 应用场景
ArgLLM-App可应用于需要高度可解释性和用户参与的决策场景，例如医疗诊断辅助、法律咨询、金融风险评估等。通过提供清晰的论证过程，该系统能够增强用户对决策的信任感，并促进人机协作。未来，该系统可以扩展到更复杂的决策任务，并集成更多的外部知识来源。
📄 摘要（原文）
Argumentative LLMs (ArgLLMs) are an existing approach leveraging Large Language Models (LLMs) and computational argumentation for decision-making, with the aim of making the resulting decisions faithfully explainable to and contestable by humans. Here we propose a web-based system implementing ArgLLM-empowered agents for binary tasks. ArgLLM-App supports visualisation of the produced explanations and interaction with human users, allowing them to identify and contest any mistakes in the system's reasoning. It is highly modular and enables drawing information from trusted external sources. ArgLLM-App is publicly available at https://argllm.app, with a video demonstration at https://youtu.be/vzwlGOr0sPM.