A CAP-like Trilemma for Large Language Models: Correctness, Non-bias, and Utility under Semantic Underdetermination

📄 arXiv: 2605.11672v1 📥 PDF

作者: Vinu Ellampallil Venugopal

分类: cs.AI, cs.DB

发布日期: 2026-05-12

💡 一句话要点

针对大语言模型，提出语义欠定下的正确性、非偏见性和效用性三难困境

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 语义欠定 CAP定理 正确性 非偏见性 效用性 三难困境 决策支持

📋 核心要点

  1. 现有大语言模型在处理语义欠定问题时，难以同时保证回答的正确性、避免偏见以及提供高实用性的信息。
  2. 论文提出一个类似CAP定理的三难困境，即在语义欠定情况下，LLM无法同时满足正确性、非偏见性和实用性。
  3. 通过形式化定义和具体案例分析，论证了LLM在欠定决策请求中的固有局限性，并非完全源于模型本身。

📝 摘要（中文）

本文受到CAP定理的启发，针对大语言模型（LLMs）提出了一个类似的CAP式猜想。该猜想指出，在语义欠定的情况下，LLM无法同时保证强正确性、严格的非偏见性和高实用性。当给定的前提无法确定唯一答案时，提示在语义上是欠定的。在这种情况下，一个有用且果断的响应需要模型引入选择标准、偏好、先验或价值排序。如果用户没有提供此标准，或者现有前提无法证明其合理性，则响应会在广泛的选择理论意义上变得有偏见。相反，如果模型避免不支持的偏好，它可能会保持正确性和非偏见性，但可能会通过拒绝、回避或澄清来降低实用性。本文形式化了这种正确性-非偏见性-效用性三难困境，开发了示例，并认为某些LLM的失败并非仅仅源于模型限制，而是源于欠定决策请求的结构。

🔬 方法详解

问题定义：论文旨在解决大语言模型在处理语义欠定问题时面临的困境。现有方法在面对信息不足或存在多种可能答案的情况下，要么给出错误或有偏见的答案，要么为了保证正确性而拒绝回答或给出模糊不清的答案，导致实用性降低。

核心思路：论文的核心思路是将分布式系统中的CAP定理类比到大语言模型领域，提出一个“正确性-非偏见性-效用性”三难困境。这意味着在语义欠定的情况下，模型无法同时保证这三个目标。模型必须在三者之间做出权衡，而这种权衡并非总是能达到最优。

技术框架：论文并没有提出一个具体的算法或模型架构，而是构建了一个理论框架。该框架主要包含以下几个部分：1) 语义欠定的定义：明确了什么情况下问题是语义欠定的。2) 正确性、非偏见性和效用性的定义：对这三个目标进行了形式化定义，使其可以被衡量和比较。3) 三难困境的证明：通过案例分析和逻辑推理，证明了在语义欠定的情况下，这三个目标无法同时满足。

关键创新：论文最重要的创新在于将分布式系统中的CAP定理的思想引入到大语言模型领域，并提出了一个全新的三难困境。这个三难困境为理解和解决大语言模型在处理复杂问题时面临的挑战提供了一个新的视角。与现有方法不同，该论文并没有试图直接解决某个具体的模型缺陷，而是从理论层面揭示了问题的本质。

关键设计：论文的关键设计在于对语义欠定、正确性、非偏见性和效用性的形式化定义。这些定义使得可以对LLM的性能进行更精确的评估和比较。此外，论文还通过精心设计的案例，展示了在不同情况下，模型如何在三个目标之间进行权衡。

📊 实验亮点

论文通过理论分析和案例研究，论证了在语义欠定情况下，大语言模型无法同时保证正确性、非偏见性和实用性。这一结论揭示了LLM在处理复杂问题时的固有局限性，为未来的研究方向提供了新的思路。

🎯 应用场景

该研究成果有助于指导大语言模型的设计和应用，尤其是在需要处理不确定或模糊信息的场景下，例如智能助手、决策支持系统等。理解并权衡正确性、非偏见性和效用性，可以帮助开发者更好地控制模型的行为，避免产生误导或有害的输出，提升用户体验。

📄 摘要（原文）

The CAP theorem states that a distributed system cannot simultaneously guarantee consistency, availability, and partition tolerance under network partition. Inspired by this result, this paper formulates a CAP-like conjecture for Large Language Models (LLMs). The proposed trilemma states that, under semantic underdetermination, an LLM cannot always simultaneously guarantee strong correctness, strict non-bias, and high utility. A prompt is semantically underdetermined when the given premises do not determine a unique answer. In such cases, a useful and decisive response requires the model to introduce a selection criterion, preference, prior, or value ordering. If this criterion is not supplied by the user or justified by the available premises, the response becomes biased in a broad selection-theoretic sense. Conversely, if the model avoids unsupported preferences, it may preserve correctness and non-bias but may reduce utility through refusal, hedging, or clarification. The paper formalizes this correctness--non-bias--utility trilemma, develops examples, and argues that certain LLM failures arise not merely from model limitations but from the structure of underdetermined decision requests.