Multi-Agent Large Language Model Based Emotional Detoxification Through Personalized Intensity Control for Consumer Protection
作者: Keito Inoshita
分类: cs.AI
发布日期: 2026-02-26
💡 一句话要点
提出基于多Agent LLM的情绪解毒系统MALLET，以个性化强度控制保护消费者免受过度情绪刺激。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多Agent系统 大型语言模型 情绪解毒 个性化推荐 信息过滤
📋 核心要点
- 注意力经济下，消费者易受煽动性内容影响，难以冷静决策，现有方法缺乏有效的情绪调节机制。
- MALLET通过多Agent协作，分析情绪、调整文本呈现方式、监控信息消费模式，并提供个性化指导，实现情绪解毒。
- 实验表明，MALLET能有效降低信息刺激强度，改善情绪平衡，同时保持语义完整性，尤其在体育、商业和科技领域效果显著。
📝 摘要（中文）
本研究提出了一种基于多Agent LLM的情绪解毒系统MALLET，旨在解决注意力经济下，消费者因接触过度情绪刺激内容而难以冷静决策的问题。MALLET包含四个Agent：情绪分析、情绪调整、平衡监控和个人指导。情绪分析Agent使用6种情绪的BERT分类器量化刺激强度；情绪调整Agent使用LLM将文本重写为两种呈现模式：平衡模式（中性化文本）和冷静模式（中性化文本+补充文本）。平衡监控Agent汇总每周信息消费模式并生成个性化建议，而个人指导Agent根据消费者敏感度推荐呈现模式。在800篇AG News文章上的实验表明，该系统显著降低了刺激分数（高达19.3%），改善了情绪平衡，同时保持了语义完整性。刺激降低与语义保持之间接近零的相关性证实了两者是独立可控的。类别分析显示，体育、商业和科技类别显著降低（17.8-33.8%），而世界类别效果有限，因为事实本身就具有高刺激性。该系统为支持消费者冷静地接收信息提供了一个框架，而无需限制对原始文本的访问。
🔬 方法详解
问题定义：论文旨在解决消费者在注意力经济中，由于接触过多的情绪刺激性内容而难以进行冷静决策的问题。现有方法通常缺乏有效的情绪调节机制，或者直接限制用户访问信息，这既不现实也不可取。因此，需要一种既能降低信息刺激强度，又能保证信息获取自由的方法。
核心思路：论文的核心思路是通过多Agent协作，对信息进行“情绪解毒”。具体来说，首先分析信息的刺激强度，然后通过改写文本的方式降低刺激强度，同时监控用户的信息消费模式，并根据用户的敏感度提供个性化的信息呈现方式建议。这种方法旨在帮助用户在不限制信息访问的前提下，更冷静地接收信息。
技术框架：MALLET系统包含四个主要Agent： 1. 情绪分析Agent：使用6种情绪的BERT分类器量化文本的刺激强度。 2. 情绪调整Agent：使用LLM将文本重写为两种呈现模式：BALANCED（中性化文本）和COOL（中性化文本+补充文本）。 3. 平衡监控Agent：汇总每周信息消费模式，生成个性化建议。 4. 个人指导Agent：根据消费者敏感度推荐呈现模式。
关键创新：该论文的关键创新在于提出了一个多Agent协作的情绪解毒框架，该框架能够个性化地调整信息的呈现方式，以降低其刺激强度，同时保持信息的语义完整性。与现有方法相比，该方法更加灵活和可控，能够在不限制信息访问的前提下，帮助用户更冷静地接收信息。
关键设计： * 情绪分析Agent：使用预训练的BERT模型进行微调，以提高情绪分类的准确性。 * 情绪调整Agent：使用提示工程（Prompt Engineering）来控制LLM生成文本的风格和内容，确保生成的文本既能降低刺激强度，又能保持语义完整性。 * 平衡监控Agent：使用用户历史信息消费数据，建立用户情绪模型，从而更准确地评估用户的情绪状态和敏感度。 * 个人指导Agent：使用强化学习算法，根据用户的反馈不断优化推荐策略，以提高用户满意度。
🖼️ 关键图片
📊 实验亮点
实验结果表明，MALLET系统能够显著降低AG News文章的刺激分数（高达19.3%），并改善情绪平衡，同时保持语义完整性。刺激降低与语义保持之间接近零的相关性证实了两者是独立可控的。类别分析显示，体育、商业和科技类别显著降低（17.8-33.8%），证明了该系统在不同类型信息上的有效性。
🎯 应用场景
该研究成果可应用于新闻推荐系统、社交媒体平台、在线教育等领域，帮助用户过滤掉过度情绪化的信息，从而更理性地进行决策。通过个性化强度控制，该系统能够有效保护消费者免受不必要的精神压力和情绪波动，提升用户体验和心理健康水平。未来，该技术还可扩展到其他类型的内容，如广告、娱乐节目等。
📄 摘要（原文）
In the attention economy, sensational content exposes consumers to excessive emotional stimulation, hindering calm decision-making. This study proposes Multi-Agent LLM-based Emotional deToxification (MALLET), a multi-agent information sanitization system consisting of four agents: Emotion Analysis, Emotion Adjustment, Balance Monitoring, and Personal Guide. The Emotion Analysis Agent quantifies stimulus intensity using a 6-emotion BERT classifier, and the Emotion Adjustment Agent rewrites texts into two presentation modes, BALANCED (neutralized text) and COOL (neutralized text + supplementary text), using an LLM. The Balance Monitoring Agent aggregates weekly information consumption patterns and generates personalized advice, while the Personal Guide Agent recommends a presentation mode according to consumer sensitivity. Experiments on 800 AG News articles demonstrated significant stimulus score reduction (up to 19.3%) and improved emotion balance while maintaining semantic preservation. Near-zero correlation between stimulus reduction and semantic preservation confirmed that the two are independently controllable. Category-level analysis revealed substantial reduction (17.8-33.8%) in Sports, Business, and Sci/Tech, whereas the effect was limited in the World category, where facts themselves are inherently high-stimulus. The proposed system provides a framework for supporting calm information reception of consumers without restricting access to the original text.