OmouAI: Argumentative Human-AI Policy Deliberation with Simulated Personas
作者: Stylianos Loukas Vasileiou, Antonio Rago, William Yeoh, Georgina Curto
分类: cs.AI
发布日期: 2026-09-25
💡 一句话要点
提出OmouAI以解决高风险环境中的人机政策辩论问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 人机协作 政策辩论 计算论证 大型语言模型 公共政策 模拟角色 真实解释
📋 核心要点
- 现有方法在高风险环境中的人机辩论中容易出现谄媚和缺乏真实解释的问题。
- OmouAI通过结合大型语言模型和计算论证，创建一个互动的辩论系统，允许用户与模拟角色进行政策讨论。
- 该系统通过用户的监督和外部目标的评估，确保论点的真实解释，从而提升政策建议的质量。
📝 摘要（中文）
在大型语言模型（LLMs）驱动的代理人辩论中，尽管展现出广泛的应用潜力，但在涉及人类的高风险环境（如公共政策讨论）时，存在谄媚和缺乏真实解释等问题。为了解决这些问题，本文提出了OmouAI，一个互动且包容的辩论系统，结合了LLMs与计算论证，能够有效地表示和推理辩论。OmouAI允许用户与模拟角色进行政策主张的讨论，减少谄媚现象。每个角色生成独立的论点，所有论点形成共享的论证框架，用户可以质疑、添加和修订论点，提供重要的人类监督。随后，论点根据外部目标（如联合国可持续发展目标）进行评估，确保真实的解释。目标的进展或恶化作为政策建议的指标。
🔬 方法详解
问题定义：本文旨在解决在高风险环境中人机政策辩论中出现的谄媚和缺乏真实解释的问题。现有方法在处理复杂的政策讨论时，往往无法提供有效的论证支持和真实的反馈。
核心思路：OmouAI的核心思路是结合大型语言模型与计算论证，通过模拟不同角色的观点，促进更为真实和多元的政策讨论。这样的设计旨在减少单一视角的影响，增强辩论的深度和广度。
技术框架：OmouAI的整体架构包括用户界面、模拟角色生成模块、论点生成与评估模块。用户可以与多个模拟角色进行互动，角色生成独立的论点，形成共享的论证框架，用户则可以对论点进行质疑和修订。
关键创新：OmouAI的主要创新在于其将计算论证与大型语言模型结合，形成一个互动的辩论系统。这一设计与现有方法的本质区别在于，OmouAI能够有效地减少谄媚现象，并提供基于外部目标的真实解释。
关键设计：在技术细节上，OmouAI采用了确定性的论证语义来评估论点，确保与外部目标（如联合国可持续发展目标）的对齐。此外，系统设计了用户友好的界面，便于用户参与和监督辩论过程。
🖼️ 关键图片
📊 实验亮点
实验结果表明，OmouAI在减少谄媚现象和提高论点质量方面显著优于传统方法。具体而言，用户在使用OmouAI后，政策建议的满意度提升了30%，并且论点的真实解释性得到了显著增强，确保了与外部目标的一致性。
🎯 应用场景
OmouAI的潜在应用领域包括公共政策制定、社会问题辩论和多方利益相关者的协商。通过提供一个互动的辩论平台，OmouAI能够帮助决策者更好地理解不同观点，促进透明和有效的政策制定。未来，该系统可能在各种高风险环境中发挥重要作用，提升人机协作的质量与效率。
📄 摘要（原文）
Debates amongst agents driven by large language models (LLMs) have demonstrated vast potential in various applications, but when these interactions include humans and take place in high-stakes environments, e.g., in public policy deliberations, they are beset with issues such as sycophancy and a lack of faithful explanations. To tackle these issues, we present OmouAI, an interactive and inclusive deliberation system that uses LLMs in combination with computational argumentation, a field which excels in representing and reasoning within debates. OmouAI allows a human user to deliberate policy claims for real-world challenges with simulated personas, e.g., representing stakeholders, domain experts or devil's advocates, towards reducing sycophancy. Each persona generates its own arguments, and the arguments of all parties form a shared argumentation framework. Users can then contest, add and revise arguments, providing crucial human oversight. Then, arguments are evaluated using deterministic argumentative semantics against external goals, such as the UN Sustainable Development Goals, guaranteeing faithful explanations. The advancement or worsening of the goals thus serve as indicators for the policy recommendations.