Question Rephrasing for Quantifying Uncertainty in Large Language Models: Applications in Molecular Chemistry Tasks

📄 arXiv: 2408.03732v1 📥 PDF

作者: Zizhang Chen, Pengyu Hong, Sandeep Madireddy

分类: cs.CL, cs.LG, q-bio.QM

发布日期: 2024-08-07

💡 一句话要点

提出基于问题复述的LLM不确定性量化方法，应用于分子化学任务

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 不确定性量化 问题复述 分子化学 性质预测 反应预测 输入不确定性 可靠性评估

📋 核心要点

  1. 大型语言模型（LLM）的可靠性评估面临挑战，现有方法难以充分量化输入变化带来的不确定性。
  2. 核心思想是通过对问题进行复述，生成语义等价但表达不同的输入，以此评估LLM对输入变化的敏感程度。
  3. 在分子化学任务上的实验表明，该方法能够更全面地评估LLM的不确定性，提升预测结果的可信度。

📝 摘要（中文）

本文提出了一种新颖的问题复述技术，用于评估大型语言模型（LLM）的输入不确定性，即由提供给LLM的等效输入变体引起的不确定性。该技术与测量LLM输出不确定性的抽样方法相结合，从而提供更全面的不确定性评估。我们在分子化学任务的性质预测和反应预测中验证了该方法的有效性。

🔬 方法详解

问题定义：现有的大型语言模型在分子性质预测和反应预测等任务中表现出色，但其预测结果的可靠性评估仍然是一个挑战。现有的不确定性量化方法往往只关注模型输出的不确定性，而忽略了输入端细微变化可能带来的影响。例如，对于同一个化学问题，不同的提问方式可能会导致LLM给出不同的答案，这反映了输入不确定性。

核心思路：本文的核心思路是通过对原始问题进行复述，生成多个语义等价但表达方式不同的问题，然后将这些问题输入到LLM中。通过观察LLM对这些复述问题的回答的差异性，来量化输入不确定性。这种方法模拟了实际应用中用户可能采用的不同提问方式，从而更真实地反映了LLM的可靠性。

技术框架：该方法主要包含两个阶段：问题复述阶段和不确定性量化阶段。在问题复述阶段，利用预训练的语言模型（例如，基于Transformer的模型）生成多个与原始问题语义等价的复述问题。在不确定性量化阶段，将原始问题和复述问题输入到目标LLM中，收集LLM的输出结果。然后，利用统计方法（例如，计算输出结果的方差或熵）来量化LLM的输出不确定性和输入不确定性，并将两者结合起来，得到一个综合的不确定性评估指标。

关键创新：该方法最重要的创新点在于显式地考虑了输入不确定性，并提出了一种基于问题复述的量化方法。与以往只关注输出不确定性的方法相比，该方法能够更全面地评估LLM的可靠性。此外，该方法具有通用性，可以应用于各种基于LLM的任务，而不仅仅局限于分子化学领域。

关键设计：在问题复述阶段，可以使用不同的策略来生成复述问题，例如，基于同义词替换、句子结构变换或释义生成模型。在不确定性量化阶段，可以选择不同的统计指标来衡量输出结果的差异性，例如，方差、熵、互信息等。具体选择哪种策略和指标取决于具体的任务和LLM的特点。此外，还可以通过调整复述问题的数量和质量来控制输入不确定性的评估精度。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，该方法能够有效地量化LLM在分子性质预测和反应预测任务中的不确定性。通过结合输入不确定性和输出不确定性，可以更准确地评估LLM的可靠性。与仅考虑输出不确定性的方法相比，该方法能够更好地识别LLM的潜在错误，并提高预测结果的可信度。具体性能提升数据未知。

🎯 应用场景

该研究成果可广泛应用于需要评估LLM可靠性的领域，例如药物发现、材料设计、化学合成等。通过量化LLM的不确定性，可以帮助研究人员更好地理解LLM的局限性，从而更明智地利用LLM的预测结果，并降低决策风险。未来，该方法可以扩展到其他领域，例如金融风险评估、智能客服等。

📄 摘要（原文）

Uncertainty quantification enables users to assess the reliability of responses generated by large language models (LLMs). We present a novel Question Rephrasing technique to evaluate the input uncertainty of LLMs, which refers to the uncertainty arising from equivalent variations of the inputs provided to LLMs. This technique is integrated with sampling methods that measure the output uncertainty of LLMs, thereby offering a more comprehensive uncertainty assessment. We validated our approach on property prediction and reaction prediction for molecular chemistry tasks.