The Kalman Evolve: Closing the Gap in Kalman Filtering via Interpretable Algorithm Discovery
作者: Vasileios Saketos, Ming Xiao
分类: cs.LG, cs.AI, cs.CV
发布日期: 2026-05-26
💡 一句话要点
Kalman Evolve：利用可解释算法发现弥合卡尔曼滤波的差距
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 卡尔曼滤波 状态估计 算法发现 大语言模型 非线性滤波
📋 核心要点
- 传统卡尔曼滤波在非线性、非高斯噪声等实际场景中性能受限，单纯调整噪声参数无法有效弥补性能差距。
- Kalman Evolve 框架通过联合优化噪声参数和更新结构，利用大语言模型生成可解释的非仿射卡尔曼滤波修改。
- 实验表明，该方法在多普勒雷达、激光雷达定位和行人跟踪等任务中，RMSE 降低高达 12%，优于传统方法。
📝 摘要（中文）
状态估计是控制和信号处理中的一个基本问题，卡尔曼滤波在满足线性动态、高斯噪声和已知噪声协方差的条件下提供了最优解。然而，这些假设在实际传感环境中（如多普勒雷达和激光雷达）通常不成立。在这种情况下，最优估计器本质上是非线性的，这会导致系统性的性能下降。这种性能差距无法仅通过调整噪声协方差参数（即卡尔曼滤波中的过程噪声和测量噪声）来消除。为了解决这个限制，我们提出了 Kalman Evolve，一个通过联合优化噪声参数和更新结构来发现改进的滤波算法的框架。我们的方法利用大型语言模型（LLM）作为程序空间的结构化先验，从而能够对经典卡尔曼滤波器进行可解释的、非仿射的修改，同时保持其递归形式。我们提供了分析结果，确定了仿射估计器在常见的非线性传感模型下的次优性，从而激发了对结构感知更新的需求。在包括多普勒雷达、基于激光雷达的定位和行人跟踪在内的一系列合成和真实世界跟踪基准测试中，所发现的算法始终优于强大的基线（如优化的卡尔曼滤波器），实现了高达 12% 的 RMSE 降低。这些结果表明，优化卡尔曼滤波器的结构，而不仅仅是其参数，提供了一种实用且可解释的方式来改进状态估计。
🔬 方法详解
问题定义：卡尔曼滤波在实际应用中，线性动态和高斯噪声的假设往往不成立，导致性能下降。现有方法主要集中在调整噪声协方差参数，但无法从根本上解决非线性问题带来的性能瓶颈。因此，需要一种能够适应非线性环境，并超越传统卡尔曼滤波结构的算法。
核心思路：Kalman Evolve 的核心思路是同时优化卡尔曼滤波器的噪声参数和更新结构。通过引入大语言模型（LLM）作为程序空间的先验，生成对卡尔曼滤波器的非仿射修改，从而使其能够更好地适应非线性环境。这种方法旨在发现既能保持卡尔曼滤波递归形式，又能有效处理非线性问题的改进算法。
技术框架：Kalman Evolve 框架包含以下主要阶段：1) 使用 LLM 生成候选的卡尔曼滤波器更新结构；2) 对生成的更新结构进行评估和筛选，选择有潜力的结构；3) 联合优化所选结构的噪声参数和更新参数；4) 在验证集上评估优化后的滤波器性能，并选择最佳滤波器。整个过程迭代进行，不断改进滤波器的结构和参数。
关键创新：该方法最重要的创新在于将大语言模型引入到卡尔曼滤波器的设计中，从而能够自动发现非仿射的更新结构。与传统方法仅调整噪声参数不同，Kalman Evolve 能够改变卡尔曼滤波器的基本结构，使其能够更好地适应非线性环境。此外，该方法还保证了生成算法的可解释性，便于理解和调试。
关键设计：LLM 的选择和提示工程是关键设计之一，需要选择合适的 LLM 并设计有效的提示，以生成高质量的候选更新结构。此外，损失函数的设计也至关重要，需要能够有效地评估滤波器的性能，并引导优化过程。噪声参数和更新参数的联合优化需要采用合适的优化算法，例如梯度下降或进化算法。
🖼️ 关键图片
📊 实验亮点
在多普勒雷达、激光雷达定位和行人跟踪等真实场景中，Kalman Evolve 相比于优化的卡尔曼滤波器等基线方法，实现了显著的性能提升，RMSE 降低高达 12%。这些实验结果表明，优化卡尔曼滤波器的结构比单纯优化参数更有效，能够更好地适应复杂的实际环境。
🎯 应用场景
Kalman Evolve 可应用于各种需要状态估计的领域，如自动驾驶、机器人导航、目标跟踪、传感器融合等。尤其是在传感器数据存在非线性、非高斯噪声的情况下，该方法能够显著提升状态估计的精度和鲁棒性。该研究的潜在价值在于提供了一种自动发现和优化滤波算法的通用框架，有望推动状态估计技术的发展。
📄 摘要（原文）
State estimation is a fundamental problem in control and signal processing, for which the Kalman Filter provides an optimal solution under linear dynamics, Gaussian noise, and known noise covariances. However, these assumptions often fail in realistic sensing settings such as Doppler radar and LiDAR. In these cases, the optimal estimator is inherently nonlinear, which leads to systematic performance degradation. This creates a performance gap that cannot be eliminated by tuning the noise covariance parameters (i.e., the process and measurement noise in the Kalman Filter) alone. To address this limitation, we propose Kalman Evolve, a framework for discovering improved filtering algorithms by jointly optimizing both noise parameters and the update structure. Our approach leverages large language models (LLMs) as a structured prior over program space, enabling the generation of interpretable, non-affine modifications to the classical Kalman filter while preserving its recursive form. We provide analytical results establishing the suboptimality of affine estimators under common nonlinear sensing models, motivating the need for structure-aware updates. Across a range of synthetic and real-world tracking benchmarks, including Doppler radar, LiDAR-based localization, and pedestrian tracking, the discovered algorithms consistently improve over strong baselines such as the Optimized Kalman Filter, achieving up to 12\% reduction in RMSE. These results suggest that optimizing the structure of the Kalman filter, rather than only its parameters, provides a practical and interpretable way to improve state estimation.