GeoReform: Reflective Formalization Evolution for Multimodal Geometry Problem Solving
作者: Jialu Wang, Ruichen Zhang, Xiaoou Liu, Hua Wei, Tianlong Chen
分类: cs.AI
发布日期: 2026-10-08
💡 一句话要点
提出GeoReform框架以解决多模态几何推理问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 多模态大型语言模型 几何推理 形式化演化 反思性学习 模型优化
📋 核心要点
- 现有方法在几何推理中提取和组织几何关系时存在显著不足,导致模型推理错误。
- GeoReform框架将形式化视为可优化的策略,通过反思性演化来改进几何实体的表示和组织。
- 在Geometry3K数据集上,GeoReform显著提升了模型的推理准确率,验证了其有效性。
📝 摘要(中文)
多模态大型语言模型(MLLMs)在识别和利用图示中的几何关系方面常常面临挑战。近期方法通过将几何实体、关系和约束转换为明确的文本表示来解决这一问题。然而,现有的有效形式化过程并不简单,结构注入在200个示例中修复了28个错误,却引入了13个新错误。这表明,关键挑战在于如何将几何事实组织成支持下游推理的表示。为此,本文提出了GeoReform,一个将形式化视为可优化策略的反思性形式化演化框架。GeoReform执行完整的推理流程,收集失败的回滚,诊断当前表示中的缺陷,并变异策略以更好地选择、定位、分组和呈现几何实体、关系、约束和目标。在Geometry3K数据集上,GeoReform将Qwen3VL-2B的准确率从42.0%提升至56.0%。
🔬 方法详解
问题定义:本文旨在解决多模态大型语言模型在几何推理中对几何关系的识别和利用不足的问题。现有方法虽然能提取几何事实,但在组织和表示上存在缺陷,导致推理错误。
核心思路:GeoReform框架的核心思路是将形式化过程视为一个可优化的策略,而非固定的解析输出。通过反思性演化,GeoReform能够动态调整几何实体的选择和组织方式,从而提高推理的准确性。
技术框架:GeoReform的整体架构包括多个模块:首先执行完整的推理流程,然后收集失败的回滚案例,接着诊断当前表示的缺陷,最后通过变异策略来优化几何实体、关系和约束的选择与呈现。
关键创新:GeoReform的主要创新在于其将形式化视为可优化的过程,允许模型在推理过程中不断学习和改进,而不是依赖静态的解析结果。这种方法显著提高了模型在几何推理任务中的表现。
关键设计:在设计上,GeoReform采用了动态策略变异机制,能够根据推理结果的反馈调整参数设置和损失函数,确保模型在选择和组织几何信息时更加高效和准确。具体的网络结构和参数设置在实验中经过优化,以适应不同的几何推理任务。
🖼️ 关键图片
📊 实验亮点
在Geometry3K数据集上,GeoReform将Qwen3VL-2B的准确率从42.0%提升至56.0%,显示出显著的性能提升。通过对比实验,验证了有效形式化在多模态几何推理中的重要性。
🎯 应用场景
该研究的潜在应用领域包括教育、计算机辅助设计、机器人导航等,能够帮助系统更好地理解和处理几何信息,从而提升智能系统在复杂任务中的表现。未来,GeoReform框架可能推动更多基于几何推理的应用开发,促进多模态学习的进步。
📄 摘要(原文)
Multimodal large language models (MLLMs) often struggle to identify and use geometric relations in diagrams. Recent methods address this challenge by converting geometric entities, relations, and constraints into explicit textual representations for the model to reason over. However, effective formalization is highly non-trivial: on Geometry3K, structure injection fixes 28 errors but introduces 13 new ones among 200 examples. Redundant relations can distract the model, while ambiguous references to diagram elements can lead it to apply constraints incorrectly. This suggests that the key challenge is not merely extracting more geometric facts, but organizing them into representations that support downstream reasoning. To fully exploit the power of formalization, we further propose GeoReform, a reflective formalization evolution framework that treats formalization as an optimizable policy rather than a fixed parser output. GeoReform executes the full reasoning pipeline, collects failed rollouts, diagnoses defects in the current representation, and mutates the policy to better select, ground, group, and present geometric entities, relations, constraints, and targets. On Geometry3K, GeoReform improves Qwen3VL-2B accuracy from 42.0\% to 56.0\%. Extensive experiments and analyses across geometry reasoning benchmarks demonstrate that effective formalization is crucial for improving multimodal geometry reasoning.