Multi-Agent Large Language Model Based Emotional Detoxification Through Personalized Intensity Control for Consumer Protection
作者: Keito Inoshita
分类: cs.AI
发布日期: 2026-02-28
💡 一句话要点
提出基于多Agent LLM的情绪解毒系统MALLET，以个性化强度控制保护消费者
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多Agent系统 大型语言模型 情绪解毒 个性化推荐 信息过滤
📋 核心要点
- 现有方法难以有效降低消费者在信息过载时代受到的过度情绪刺激，影响冷静决策。
- MALLET系统通过多Agent协作，个性化调整信息呈现方式，降低情绪刺激，同时保持语义完整性。
- 实验表明，该系统能显著降低刺激评分，改善情绪平衡，且刺激降低与语义保持可独立控制。
📝 摘要（中文）
在注意力经济下，耸人听闻的内容使消费者暴露于过度的情绪刺激，阻碍了冷静的决策。本研究提出了基于多Agent LLM的情绪解毒系统(MALLET)，这是一个由四个Agent组成的多Agent信息净化系统：情绪分析、情绪调整、平衡监控和个人指导。情绪分析Agent使用6种情绪的BERT分类器量化刺激强度，情绪调整Agent使用LLM将文本重写为两种呈现模式：平衡(中性化文本)和冷静(中性化文本+补充文本)。平衡监控Agent汇总每周的信息消费模式并生成个性化建议，而个人指导Agent根据消费者的敏感度推荐呈现模式。在800篇AG News文章上的实验表明，刺激评分显著降低(高达19.3%)，情绪平衡得到改善，同时保持了语义的完整性。刺激降低与语义保持之间接近于零的相关性证实了两者是独立可控的。类别分析显示，体育、商业和科技领域的刺激降低幅度很大(17.8-33.8%)，而世界新闻类别的影响有限，因为事实本身就具有很高的刺激性。该系统提供了一个框架，用于支持消费者冷静地接收信息，而无需限制对原始文本的访问。
🔬 方法详解
问题定义：论文旨在解决消费者在信息爆炸时代，由于接触到大量带有强烈情绪色彩的内容，导致情绪过度刺激，从而影响理性决策的问题。现有方法要么是直接过滤信息，限制了用户的获取，要么无法有效降低信息中的情绪刺激。
核心思路：论文的核心思路是通过多Agent系统，对信息进行情绪解毒，即在不限制用户获取信息的前提下，降低信息中的情绪刺激强度。通过个性化调整信息的呈现方式，使消费者能够更冷静地接收信息。
技术框架：MALLET系统包含四个主要Agent： 1. 情绪分析Agent：使用6种情绪的BERT分类器量化输入文本的情绪刺激强度。 2. 情绪调整Agent：利用大型语言模型（LLM），将文本改写为两种模式：BALANCED（中性化文本）和COOL（中性化文本+补充文本）。 3. 平衡监控Agent：跟踪用户每周的信息消费模式，并生成个性化的信息消费建议。 4. 个人指导Agent：根据用户的敏感度，推荐合适的文本呈现模式。
关键创新：该论文的关键创新在于提出了一个多Agent协作的情绪解毒框架，能够个性化地调整信息呈现方式，降低情绪刺激，同时保持语义完整性。此外，该系统允许用户在原始文本和解毒后的文本之间切换，保证了用户的信息获取自由。
关键设计： * 情绪分析Agent：使用预训练的BERT模型进行微调，以提高情绪分类的准确性。 * 情绪调整Agent：设计了BALANCED和COOL两种文本呈现模式，通过LLM生成不同程度的中性化文本。 * 损失函数：未知，论文未明确提及损失函数的设计。 * 参数设置：未知，论文未明确提及关键参数的设置。
🖼️ 关键图片
📊 实验亮点
实验结果表明，MALLET系统能够显著降低AG News文章的刺激评分，最高可达19.3%，并改善情绪平衡，同时保持语义完整性。刺激降低与语义保持之间接近于零的相关性表明，两者可以独立控制。类别分析显示，体育、商业和科技领域的刺激降低幅度较大(17.8-33.8%)。
🎯 应用场景
该研究成果可应用于新闻推荐系统、社交媒体平台和在线教育等领域，帮助用户过滤掉过度情绪化的信息，提高信息接收的效率和质量，促进用户做出更理性的决策。此外，该系统还可以用于心理健康领域，帮助用户管理情绪，减少负面情绪的积累。
📄 摘要（原文）
In the attention economy, sensational content exposes consumers to excessive emotional stimulation, hindering calm decision-making. This study proposes Multi-Agent LLM-based Emotional deToxification (MALLET), a multi-agent information sanitization system consisting of four agents: Emotion Analysis, Emotion Adjustment, Balance Monitoring, and Personal Guide. The Emotion Analysis Agent quantifies stimulus intensity using a 6-emotion BERT classifier, and the Emotion Adjustment Agent rewrites texts into two presentation modes, BALANCED (neutralized text) and COOL (neutralized text + supplementary text), using an LLM. The Balance Monitoring Agent aggregates weekly information consumption patterns and generates personalized advice, while the Personal Guide Agent recommends a presentation mode according to consumer sensitivity. Experiments on 800 AG News articles demonstrated significant stimulus score reduction (up to 19.3%) and improved emotion balance while maintaining semantic preservation. Near-zero correlation between stimulus reduction and semantic preservation confirmed that the two are independently controllable. Category-level analysis revealed substantial reduction (17.8-33.8%) in Sports, Business, and Sci/Tech, whereas the effect was limited in the World category, where facts themselves are inherently high-stimulus. The proposed system provides a framework for supporting calm information reception of consumers without restricting access to the original text.