OmniSimulator: Aligning Small Language Models for Authentic Heterogeneous Behavior Modeling
作者: Jiawei Chen, Ruoxi Xu, Boxi Cao, Zhuoqun Li, Ruotong Pan, Yunfei Zhang, Zhirui Yang, Jingyan Chen, Tingting Gao, Han Li, Yaojie Lu, Xianpei Han, Le Sun, Xiangyu Wu, Hongyu Lin
分类: cs.CL, cs.AI, cs.LG
发布日期: 2026-10-21
备注: Accepted by NeurIPS 2026
💡 一句话要点
提出OmniSimulator以解决小型语言模型用户模拟能力不足的问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 用户模拟 小型语言模型 行为导向推理 教师模型 短视频平台 深度学习 数据选择 推理质量
📋 核心要点
- 现有大型语言模型在用户模拟中存在推理能力不足的问题，无法有效捕捉真实用户行为。
- OmniSimulator通过结构化的行为导向推理框架和教师模型，提升小型语言模型的推理能力。
- 实验结果显示，OmniSimulator显著提高了模型性能，Qwen3-8B的得分提升了34.33%。
📝 摘要（中文）
大型语言模型（LLMs）在交互系统中作为通用用户模拟器展现出巨大潜力。然而，现有方法的用户模拟能力受限于模型的推理范式，往往退化为表层模式匹配，无法充分模拟真实用户决策背后的行为因素。为此，本文提出了OmniSimulator，一个旨在提升小型LLMs在短视频平台环境中进行真实用户模拟的训练框架。OmniSimulator通过结构化的五维行为导向推理模式组织推理，精心选择真实用户行为场景的数据，并引入教师模型生成高质量的推理轨迹，帮助小模型学习与行为相关的推理模式。实验结果表明，OmniSimulator使Qwen3-8B的平均得分提高了34.33%，并在性能上与Claude-Sonnet-4.5相当，支持小规模自托管部署。
🔬 方法详解
问题定义：本文旨在解决现有小型语言模型在用户模拟中的推理能力不足，尤其是无法有效模拟真实用户决策背后的复杂行为因素。现有方法往往依赖于表层模式匹配，导致模拟效果不佳。
核心思路：OmniSimulator的核心思路是通过结构化的五维行为导向推理框架，帮助小型语言模型学习更深层次的推理模式，而非仅依赖于表面的行为关联。通过引入教师模型生成高质量的推理轨迹，提升小模型的学习效果。
技术框架：OmniSimulator的整体架构包括数据选择、推理框架设计和教师模型生成三个主要模块。首先，从真实用户行为场景中精心选择数据；其次，构建五维推理框架以组织行为导向推理；最后，利用教师模型生成高质量的推理示例，供小模型学习。
关键创新：本研究的关键创新在于引入结构化的行为导向推理框架和教师模型生成机制，使得小型语言模型能够学习到更为复杂和真实的用户行为模式。这一设计与传统方法的本质区别在于强调推理的深度和结构化。
关键设计：在训练过程中，OmniSimulator设置了特定的损失函数以优化推理质量，并通过调整教师模型的生成策略，确保生成的推理轨迹具有高质量和多样性。此外，模型的参数设置经过精心调优，以适应短视频平台的用户行为特征。
🖼️ 关键图片
📊 实验亮点
实验结果显示，OmniSimulator显著提升了Qwen3-8B模型的性能，平均得分提高了34.33%。此外，该模型在性能上与Claude-Sonnet-4.5相当，展示了其在小规模自托管部署中的竞争力。这些结果表明，结构化行为导向推理模式的学习是提升用户模拟质量的有效途径。
🎯 应用场景
OmniSimulator的研究成果具有广泛的应用潜力，尤其是在短视频平台、在线教育和智能客服等领域。通过提升小型语言模型的用户模拟能力，可以更好地理解用户需求，优化交互体验，并推动个性化推荐系统的发展。未来，该方法有望在更多交互式系统中得到应用，提升用户体验和系统效率。
📄 摘要（原文）
Large language models (LLMs) have shown great potential as general-purpose user simulators for interactive systems. Prior studies have demonstrated that training on high-quality data can substantially improve model reasoning and downstream task performance. However, the upper bound of user simulation is still constrained by the model's reasoning paradigm: native chain-of-thought often degenerates into shallow pattern matching and fails to adequately model the behavioral factors underlying real user decisions. In this paper, we propose OmniSimulator, a novel training framework designed to improve the predictive ability of small LLMs for realistic user simulation on short-video platform environments. Specifically, OmniSimulator organizes behavior-oriented reasoning through a structured schema with five dimensions, carefully selects data from real user-behavior scenarios, and introduces a teacher model to generate high-quality reasoning traces under the proposed schema, helping small models learn behavior-relevant reasoning patterns rather than relying on superficial behavioral correlations. Based on this process, we construct 9,881 high-quality training instances from three months of historical interaction trajectories of 200 real users, averaging about 50 distilled examples per user. Experimental results show that OmniSimulator improves the average score of Qwen3-8B by 34.33%, achieves performance competitive with Claude-Sonnet-4.5, and supports smaller-scale, self-hosted deployment. These results suggest that learning structured behavior-oriented reasoning patterns is a promising direction towards scalable and high-fidelity LLM-based user simulation.