Causal Inference with Latent Variables: Recent Advances and Future Prospectives
作者: Yaochen Zhu, Yinhan He, Jing Ma, Mengxuan Hu, Sheng Li, Jundong Li
分类: cs.LG, stat.ME
发布日期: 2024-06-20
备注: Accepted by KDD'24 Survey Track
💡 一句话要点
综述：潜变量因果推断研究进展与未来展望
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 因果推断 潜变量 因果效应估计 中介分析 反事实推理 因果发现 图数据 大型语言模型
📋 核心要点
- 因果推断在很多领域至关重要，但忽略潜变量会导致偏差估计和不完整的因果理解。
- 本文综述了规避和推理两种策略，用于处理潜变量下的因果效应估计、中介分析等任务。
- 文章还探讨了图数据中的因果推断，并展望了大型语言模型在因果推断中的应用。
📝 摘要（中文）
因果关系是我们世界发展轨迹的基础。因果推断（CI）旨在推断变量之间内在的因果关系，已成为一个至关重要的研究课题。然而，重要变量（例如，混杂因素、中介变量、外生变量等）的缺失严重损害了CI方法的可靠性。这个问题可能源于测量变量的固有难度。此外，在被动记录变量的观察性研究中，实验者可能会无意中遗漏某些协变量。如果粗心处理这些潜变量，可能会导致各种后果，例如因果效应的偏差估计、对因果机制的不完整理解、缺乏个体层面的因果考虑等。本文对潜变量CI的最新进展进行了全面综述。我们首先讨论在假设感兴趣的变量被完全观察到的情况下的传统CI技术。然后，在规避和基于推理的方法的分类下，我们深入讨论了各种处理潜变量的CI策略，涵盖因果效应估计、中介分析、反事实推理和因果发现等任务。此外，我们将讨论推广到可能存在单元间干扰的图数据。最后，我们为潜变量CI的进一步发展提供了新的视角，尤其是在大型语言模型（LLM）时代的新机遇。
🔬 方法详解
问题定义：因果推断旨在发现变量间的因果关系，但现实中常常存在未被观测到的潜变量（如混杂因子）。这些潜变量的存在会严重影响因果推断的准确性，导致有偏的因果效应估计，对因果机制的理解不完整，以及缺乏个体层面的因果考虑。现有方法在处理这些潜变量时存在局限性，需要更有效的方法来解决。
核心思路：本文的核心思路是对现有处理潜变量的因果推断方法进行系统性的梳理和总结，并将其分为规避和基于推理两大类。规避方法试图通过特定的假设或技术手段来消除或减轻潜变量的影响，而基于推理的方法则尝试直接对潜变量进行建模或推断，从而校正因果效应。
技术框架：本文首先回顾了在完全观测变量下的传统因果推断技术。然后，针对潜变量的存在，分别从规避方法和基于推理的方法两个角度，详细讨论了各种因果推断策略。这些策略涵盖了因果效应估计、中介分析、反事实推理和因果发现等任务。此外，文章还讨论了图数据中的因果推断问题，以及大型语言模型在因果推断中的应用。
关键创新：本文的创新之处在于对潜变量因果推断方法进行了全面的综述和分类，并提出了未来研究方向的展望。通过将现有方法归纳为规避和基于推理两大类，有助于研究人员更好地理解各种方法的优缺点和适用场景。此外，文章还强调了大型语言模型在因果推断中的潜在应用，为未来的研究提供了新的思路。
关键设计：本文主要是一篇综述文章，没有提出新的算法或模型，因此没有涉及具体的参数设置、损失函数或网络结构等技术细节。文章的重点在于对现有方法的梳理和总结，以及对未来研究方向的展望。
🖼️ 关键图片
📊 实验亮点
本文是一篇综述性文章，主要贡献在于对现有潜变量因果推断方法的系统性梳理和总结，并提出了未来研究方向的展望。文章没有提供具体的实验结果或性能数据，但通过对现有方法的分类和比较，为研究人员提供了有价值的参考。
🎯 应用场景
该研究对因果推断在存在潜变量情况下的应用具有重要意义，可应用于医学、经济学、社会科学等领域。例如，在医学研究中，可以利用该方法分析药物疗效，排除未观测到的混杂因素的影响。在经济学中，可以用于分析政策对经济的影响，考虑潜在的外部因素。该研究有助于提高因果推断的准确性和可靠性，为决策提供更可靠的依据。
📄 摘要（原文）
Causality lays the foundation for the trajectory of our world. Causal inference (CI), which aims to infer intrinsic causal relations among variables of interest, has emerged as a crucial research topic. Nevertheless, the lack of observation of important variables (e.g., confounders, mediators, exogenous variables, etc.) severely compromises the reliability of CI methods. The issue may arise from the inherent difficulty in measuring the variables. Additionally, in observational studies where variables are passively recorded, certain covariates might be inadvertently omitted by the experimenter. Depending on the type of unobserved variables and the specific CI task, various consequences can be incurred if these latent variables are carelessly handled, such as biased estimation of causal effects, incomplete understanding of causal mechanisms, lack of individual-level causal consideration, etc. In this survey, we provide a comprehensive review of recent developments in CI with latent variables. We start by discussing traditional CI techniques when variables of interest are assumed to be fully observed. Afterward, under the taxonomy of circumvention and inference-based methods, we provide an in-depth discussion of various CI strategies to handle latent variables, covering the tasks of causal effect estimation, mediation analysis, counterfactual reasoning, and causal discovery. Furthermore, we generalize the discussion to graph data where interference among units may exist. Finally, we offer fresh aspects for further advancement of CI with latent variables, especially new opportunities in the era of large language models (LLMs).