"Ownership, Not Just Happy Talk": Co-Designing a Participatory Large Language Model for Journalism

📄 arXiv: 2501.17299v1 📥 PDF

作者: Emily Tseng, Meg Young, Marianne Aubin Le Quéré, Aimee Rinehart, Harini Suresh

分类: cs.HC, cs.CL, cs.CY

发布日期: 2025-01-28

备注: Under review for an ACM conference

💡 一句话要点

共建新闻业专属大语言模型，解决通用模型适应性问题并保障记者权益。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 新闻业 参与式设计 人机协作 记者权益

📋 核心要点

  1. 现有通用大语言模型在新闻业应用中存在版权、伦理和适应性问题，无法满足特定需求。
  2. 论文提出一种参与式设计方法，通过与新闻从业者共建LLM，解决模型与新闻工作流程的适配问题。
  3. 通过访谈和共建，论文提出了记者控制的LLM的组织结构和功能，并讨论了商业模型的局限性。

📝 摘要（中文）

新闻业已成为理解大型语言模型（LLM）在工作场所中的应用、局限性和影响的关键领域。新闻机构面临着不同的财务激励：在财务受限的组织中，LLM已经渗透到新闻工作流程中，但与此同时，持续的法律挑战声称AI公司侵犯了他们的版权。问题的关键在于LLM的创建目的和创建者：记者主导的LLM如何运作？参与式设计如何揭示当前将“一刀切”的基础模型适应特定使用环境的挑战？在本文中，我们进行了一项共同设计探索，以了解LLM的参与式方法如何应对新闻业中AI带来的机遇和挑战。我们对记者、数据记者、编辑、劳工组织者、产品负责人和管理人员进行了20次访谈，强调了设计必须解决的宏观、中观和微观层面的紧张关系。根据这些需求，我们描述了共同设计工作的结果：记者控制的LLM的组织结构和功能。最后，我们讨论了商业基础模型在工作场所使用的局限性，以及将参与式方法应用于LLM共同设计的方法论意义。

🔬 方法详解

问题定义：新闻业面临着通用大语言模型（LLM）带来的机遇和挑战。现有商业LLM通常是“一刀切”的，无法很好地适应新闻工作的特定需求，例如事实核查、新闻伦理、版权保护等。此外，新闻机构对AI技术的应用也面临着财务激励和法律风险的双重压力。现有方法缺乏对新闻从业者需求的充分考虑，可能导致模型与实际工作流程脱节，甚至侵犯记者权益。

核心思路：论文的核心思路是采用参与式设计方法，让新闻从业者深度参与到LLM的设计和开发过程中。通过与记者、编辑、数据记者等利益相关者合作，共同定义LLM的功能和组织结构，从而确保模型能够更好地满足新闻工作的实际需求，并解决伦理和法律问题。这种方法强调“所有权”，而非仅仅是“空谈”，旨在创建一个由记者控制的LLM。

技术框架：论文并没有提出一个具体的LLM技术框架，而是侧重于LLM的组织结构和功能设计。其主要流程包括：1) 通过访谈收集新闻从业者的需求和痛点；2) 基于访谈结果，共同设计LLM的功能和组织结构；3) 讨论商业基础模型的局限性，并提出改进建议。论文强调的是共建过程，而非具体的模型架构。

关键创新：论文的关键创新在于将参与式设计方法应用于LLM的开发，并将其应用于新闻业这一特定领域。与传统的自上而下的模型开发方式不同，该方法强调用户（新闻从业者）的参与和控制，从而确保模型能够更好地满足用户的需求。此外，论文还关注了LLM在新闻业应用中的伦理和法律问题，并提出了相应的解决方案。

关键设计：论文并没有涉及具体的参数设置、损失函数或网络结构等技术细节。其关键设计在于LLM的组织结构和功能，例如如何实现事实核查、如何保护版权、如何确保新闻伦理等。这些设计都是基于与新闻从业者的访谈和共建过程得出的，旨在创建一个由记者控制的LLM。

📊 实验亮点

论文通过对20位新闻从业者的访谈，深入了解了新闻业对LLM的需求和痛点。基于访谈结果，论文提出了记者控制的LLM的组织结构和功能，并讨论了商业基础模型在新闻业应用中的局限性。这些发现为后续研究和实践提供了重要的参考。

🎯 应用场景

该研究成果可应用于新闻机构，帮助其构建更符合自身需求、更安全可靠的大语言模型。通过参与式设计，新闻从业者可以更好地掌控AI技术，提升工作效率，同时保障新闻伦理和版权。该方法也为其他领域的AI应用提供了借鉴，例如医疗、教育等。

📄 摘要（原文）

Journalism has emerged as an essential domain for understanding the uses, limitations, and impacts of large language models (LLMs) in the workplace. News organizations face divergent financial incentives: LLMs already permeate newswork processes within financially constrained organizations, even as ongoing legal challenges assert that AI companies violate their copyright. At stake are key questions about what LLMs are created to do, and by whom: How might a journalist-led LLM work, and what can participatory design illuminate about the present-day challenges about adapting ``one-size-fits-all'' foundation models to a given context of use? In this paper, we undertake a co-design exploration to understand how a participatory approach to LLMs might address opportunities and challenges around AI in journalism. Our 20 interviews with reporters, data journalists, editors, labor organizers, product leads, and executives highlight macro, meso, and micro tensions that designing for this opportunity space must address. From these desiderata, we describe the result of our co-design work: organizational structures and functionality for a journalist-controlled LLM. In closing, we discuss the limitations of commercial foundation models for workplace use, and the methodological implications of applying participatory methods to LLM co-design.