Think Fast, Talk Smart: Partitioning Deterministic and Neural Computation for Structured Health Text Generation

📄 arXiv: 2605.29652v1 📥 PDF

作者: Kai-Chen Cheng, Haejun Han, David Q. Sun

分类: cs.AI

发布日期: 2026-05-28

💡 一句话要点

提出Think Fast, Talk Smart框架，用于从结构化健康数据中生成高质量健康文本。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 结构化文本生成 大型语言模型 健康文本 确定性计算 睡眠健康

📋 核心要点

  1. 现有方法在从结构化健康数据生成文本时，难以保证输出的准确性、可信度和合规性，并且成本较高。
  2. Think Fast, Talk Smart框架通过确定性代码预处理结构化数据，再由LLM生成最终文本，实现分析与生成的解耦。
  3. 实验表明，该框架在数值误差、指令依从性和端到端成本方面均优于现有方法，验证了其有效性。

📝 摘要（中文）

大型语言模型（LLMs）越来越多地被用于从结构化记录（如可穿戴设备时间序列、生物标志物、生命体征和护理管理日志）生成健康文本。对于重复出现的健康输出，仅仅流畅是不够的：系统必须忠实于源数据，将解释性声明建立在可用的证据基础上，遵循既定策略，输出机器可读的输出，并以足够低的成本运行以供重复使用。本文探讨了在结构化健康文本生成中，哪些职责应该由确定性计算来承担，而不是运行时LLM提示。我们介绍了一种睡眠健康洞察管道Think Fast, Talk Smart，其中确定性代码在一次有界LLM writer调用之前执行重复性分析。在280个用户夜晚和六个模型上，该方法实现了比结构化零样本和少样本单次调用基线更低的数值误差、更低的指令依从性误差和更低的端到端成本。层替换揭示了特定于合约的失败：LLM比较会增加数值误差，LLM排序会降低策略选择，LLM归因会增加不支持的因果语言，即使上游事实是确定性的，LLM生成的writer接口也会重新引入错误。结果支持一个更广泛的设计规则：让代码拥有重复性分析，让LLM在有界接口内表达经过验证的事实。

🔬 方法详解

问题定义：现有的大型语言模型在处理结构化健康数据生成健康文本时，面临着准确性、可信度、合规性和成本等多重挑战。直接使用LLM进行生成，容易出现数值错误、不符合预定策略、产生无依据的因果关系等问题，且计算成本较高，难以满足重复使用的需求。

核心思路：论文的核心思路是将结构化健康文本生成任务分解为两个阶段：确定性分析和LLM生成。首先，使用确定性代码对结构化数据进行预处理和分析，提取关键信息和特征。然后，利用LLM将这些经过验证的事实转化为自然语言文本。这种解耦的设计旨在利用确定性代码保证数据处理的准确性和合规性，同时利用LLM的语言生成能力提高文本的流畅性和可读性。

技术框架：Think Fast, Talk Smart框架包含以下主要模块：1) 数据输入：接收结构化的健康数据，如可穿戴设备数据、生物标志物等。2) 确定性分析：使用确定性代码对数据进行清洗、转换、分析和聚合，提取关键指标和特征。3) LLM Writer：接收确定性分析的结果，并将其转化为自然语言文本。该模块使用有界接口，限制LLM的输出范围，确保生成的文本符合预定的格式和规范。4) 输出：生成最终的健康文本报告。

关键创新：该论文的关键创新在于将结构化健康文本生成任务分解为确定性分析和LLM生成两个阶段，并明确了各个阶段的职责。通过确定性代码预处理数据，保证了数据处理的准确性和合规性，避免了LLM直接处理原始数据可能产生的错误。同时，使用有界接口限制LLM的输出范围，进一步提高了生成文本的质量和可靠性。

关键设计：论文中一个关键的设计是确定性分析模块。该模块需要根据具体的健康领域知识和业务逻辑进行设计，以提取出对生成健康文本最有用的信息。另一个关键设计是有界接口，它需要仔细定义LLM的输入和输出格式，以确保生成的文本符合预期的规范和要求。论文中还通过层替换实验，分析了不同模块对最终生成结果的影响，为框架的设计提供了指导。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Think Fast, Talk Smart框架在睡眠健康洞察任务中，相比于零样本和少样本基线，显著降低了数值误差、指令依从性误差和端到端成本。具体而言，该框架在280个用户夜晚和六个模型上的测试中，各项指标均优于基线模型，验证了其有效性。

🎯 应用场景

该研究成果可应用于多种健康领域，例如睡眠健康监测、慢性病管理、远程医疗等。通过自动生成个性化的健康报告，可以帮助患者更好地了解自身健康状况，并为医生提供决策支持。该框架还可用于生成符合特定法规和标准的健康文本，提高医疗服务的效率和质量。

📄 摘要（原文）

Large language models (LLMs) are increasingly being used to generate health text from structured records such as wearable time series, biomarkers, vitals, and care-management logs. For recurring health outputs, fluency is not enough: systems must remain faithful to source data, ground explanatory claims in available evidence, follow stated policies, emit machine-readable outputs, and run cheaply enough for repeated use. We ask which responsibilities in structured health generation should be deterministic computation rather than runtime LLM prompting. We introduce Think Fast, Talk Smart, a sleep-health insight pipeline in which deterministic code performs recurring analysis before one bounded LLM writer call. Across 280 user-nights and six models, achieves lower numeric error, lower instruction-compliance error, and lower end-to-end cost than structured zero-shot and few-shot one-call baselines. Layer replacement reveals contract-specific failures: LLM comparison raises numeric error, LLM ranking degrades policy selection, LLM attribution increases unsupported causal language, and an LLM-generated writer interface reintroduces errors even after upstream facts are deterministic. The results support a broader design rule: let code own recurring analysis, and let LLMs express verified facts within bounded interfaces.