AI and the Future of Digital Public Squares

📄 arXiv: 2412.09988v1 📥 PDF

作者: Beth Goldberg, Diana Acosta-Navas, Michiel Bakker, Ian Beacock, Matt Botvinick, Prateek Buch, Renée DiResta, Nandika Donthi, Nathanael Fast, Ravi Iyer, Zaria Jalan, Andrew Konya, Grace Kwak Danciu, Hélène Landemore, Alice Marwick, Carl Miller, Aviv Ovadya, Emily Saltz, Lisa Schirch, Dalit Shalom, Divya Siddarth, Felix Sieker, Christopher Small, Jonathan Stray, Audrey Tang, Michael Henry Tessler, Amy Zhang

分类: cs.CY, cs.AI

发布日期: 2024-12-13

备注: 40 pages, 5 figures

💡 一句话要点

利用大型语言模型重塑数字公共空间，应对挑战并促进对话

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 数字公共空间 在线社区治理 对话系统 社区管理

📋 核心要点

  1. 现有数字公共空间面临参与度低、信息茧房和恶意行为等挑战，亟需创新解决方案。
  2. 论文探索利用大型语言模型（LLMs）构建更具参与性、更安全的数字公共空间的新方法。
  3. 通过专家咨询和案例分析，论文提出了LLMs在对话促进、社区管理和身份验证等方面的应用。

📝 摘要（中文）

本文探讨了大型语言模型（LLMs）对数字公共空间未来发展的影响。互联网的出现和LLMs的引入深刻地改变了公共领域。LLMs为构建更去中心化、更具参与性的在线空间提供了范式转变的机会，从而促进大规模的审议对话。然而，它们也可能加剧社会分裂的风险。本文探讨了LLMs在改进数字公共空间方面的四个应用：集体对话系统、桥接系统、社区管理和身份验证系统。基于70多位公民社会专家和技术人员的意见，我们认为LLMs既为大规模对话的范式转变提供了有希望的机会，也为数字公共空间带来了独特的风险。我们提出了未来AI研究和投资的议程，旨在加强数字公共空间，并防范AI的潜在误用。

🔬 方法详解

问题定义：当前数字公共空间存在诸多问题，包括信息过滤气泡、恶意信息传播、缺乏有效对话机制以及身份验证困难等。这些问题阻碍了健康的公共讨论和参与，使得在线环境容易被操纵和滥用。现有方法在解决这些问题时，往往面临可扩展性、成本和有效性等方面的挑战。

核心思路：论文的核心思路是利用大型语言模型（LLMs）的强大自然语言处理能力，构建更智能、更具适应性的数字公共空间。LLMs可以用于促进对话、弥合分歧、改进社区管理和增强身份验证，从而创造一个更安全、更具建设性的在线环境。这种设计旨在利用AI的力量来解决现有数字公共空间的缺陷。

技术框架：论文探讨了四个主要应用方向：1) 集体对话系统，利用LLMs促进大规模的审议对话；2) 桥接系统，旨在弥合不同群体之间的分歧，促进理解和共识；3) 社区管理，利用LLMs自动检测和处理恶意内容，维护社区秩序；4) 身份验证系统，利用LLMs验证用户身份，防止机器人和虚假账号的滥用。每个应用方向都涉及特定的技术实现和算法设计。

关键创新：论文的关键创新在于将大型语言模型应用于数字公共空间的治理和改进。与传统方法相比，LLMs能够更有效地理解和处理复杂的语言信息，从而实现更智能的对话促进、更精准的社区管理和更可靠的身份验证。这种方法为解决数字公共空间面临的挑战提供了新的视角和工具。

关键设计：具体的技术细节因应用方向而异。例如，在集体对话系统中，可能需要设计特定的提示工程（prompt engineering）策略，引导LLMs生成有益的对话内容。在社区管理中，需要训练LLMs识别和过滤恶意信息。在身份验证系统中，可能需要结合生物特征识别等技术，提高验证的准确性和安全性。具体的参数设置、损失函数和网络结构等细节取决于具体的应用场景和数据集。

📊 实验亮点

论文通过专家咨询和案例分析，展示了LLMs在数字公共空间中的潜在应用价值。虽然没有提供具体的性能数据，但专家们普遍认为LLMs在对话促进、社区管理和身份验证等方面具有显著优势。与传统方法相比，LLMs能够更有效地处理复杂的语言信息，从而实现更智能的对话和更精准的管理。

🎯 应用场景

该研究成果可应用于各种在线社区、社交媒体平台、论坛和公共讨论空间。通过利用LLMs，可以构建更具参与性、更安全、更具建设性的在线环境，促进健康的公共对话和信息交流。未来，该技术有望应用于在线教育、政治协商和危机管理等领域，提升社会治理水平。

📄 摘要（原文）

Two substantial technological advances have reshaped the public square in recent decades: first with the advent of the internet and second with the recent introduction of large language models (LLMs). LLMs offer opportunities for a paradigm shift towards more decentralized, participatory online spaces that can be used to facilitate deliberative dialogues at scale, but also create risks of exacerbating societal schisms. Here, we explore four applications of LLMs to improve digital public squares: collective dialogue systems, bridging systems, community moderation, and proof-of-humanity systems. Building on the input from over 70 civil society experts and technologists, we argue that LLMs both afford promising opportunities to shift the paradigm for conversations at scale and pose distinct risks for digital public squares. We lay out an agenda for future research and investments in AI that will strengthen digital public squares and safeguard against potential misuses of AI.