FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance

📄 arXiv: 2609.36474v1 📥 PDF

作者: Rikhiya Ghosh, Himanshu Kumar, Sriram Venkatapathy, Sahil Wadhwa, Alexandre G. R. Day, Pranab Mohanty

分类: cs.CL, cs.CR, cs.LG

发布日期: 2026-09-29

💡 一句话要点

提出FinRT以解决消费金融领域的对抗性生成问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 对抗性生成 红队策略 消费金融 安全性 模型迁移

📋 核心要点

  1. 现有的自动化红队方法在攻击有效性与生成成本之间存在权衡，且未能将覆盖率、严重性和多样性作为联合目标。
  2. 本文提出FinRT，通过自适应红队策略构建可重用的对抗性提示生成器，旨在提高攻击成功率和生成效率。
  3. FinRT在六个消费金融模型中，攻击成功率达到32.9%，比自适应基线Rainbow Teaming提升了15.7%，并增加了对抗严重性33%。

📝 摘要（中文）

在受监管的消费金融行业中，用户查询可能会利用大型语言模型的漏洞，导致安全失败并接近政策限制。现有的自动化红队方法在攻击有效性和生成成本之间存在权衡，同时将覆盖率、严重性和多样性视为附带目标。本文提出了FinRT，一个结构化框架，通过自适应红队策略构建可重用的对抗性提示生成器。在六个消费金融的受害模型中，FinRT显著优于自适应搜索基线，几乎将攻击成功率翻倍，并增加了最大对抗严重性，同时保持了与迭代搜索方法相当的语义多样性。

🔬 方法详解

问题定义：本文旨在解决消费金融领域中，用户查询利用大型语言模型漏洞的问题。现有方法在攻击有效性和生成成本之间存在权衡，未能有效结合覆盖率、严重性和多样性。

核心思路：FinRT通过自适应红队策略构建可重用的对抗性提示生成器，旨在提高攻击的成功率和效率，同时保持生成的多样性。

技术框架：FinRT的整体架构包括数据收集、对抗性提示生成、评估和优化等主要模块。首先收集用户查询数据，然后利用自适应红队策略生成对抗性提示，最后通过评估机制优化生成器。

关键创新：FinRT的主要创新在于将自适应红队策略与可重用生成器结合，显著提高了攻击成功率和生成效率，区别于传统方法的单一目标优化。

关键设计：在设计中，FinRT使用了特定的损失函数来平衡攻击的有效性和生成的多样性，同时采用了多层神经网络结构以增强生成器的表达能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

FinRT在六个消费金融模型中的攻击成功率达到32.9%，显著高于自适应基线Rainbow Teaming的17.2%，提升幅度达到15.7%。此外，最大对抗严重性增加了33%，同时保持了与迭代搜索方法相当的语义多样性，展现出良好的跨模型迁移能力。

🎯 应用场景

该研究的潜在应用领域包括金融服务、在线客服和安全审计等。通过提高对抗性生成的效率和成功率，FinRT可以帮助金融机构更好地识别和防范潜在的安全风险，提升用户查询的安全性和合规性，具有重要的实际价值和未来影响。

📄 摘要（原文）

In regulated industries like consumer finance, seemingly harmless user queries can exploit large language model vulnerabilities, triggering safety failures and pushing responses dangerously close to policy limits. Existing automated red-teaming methods trade off attack effectiveness against generation cost, while treating coverage, severity, and diversity as incidental rather than joint objectives. We introduce FinRT, a structured framework that builds reusable adversarial prompt generators from adaptive red-teaming strategies. Across the six victim models in consumer finance, FinRT substantially outperforms adaptive search baselines while amortizing target-facing attack generation into a reusable generator. FinRT nearly doubles the attack success rate over the adaptive baseline Rainbow Teaming (32.9% vs. 17.2%), increases maximum adversarial severity by 33%, and preserves comparable intra-policy-domain semantic diversity to iterative search methods. Our method achieves high cross-model transferability while exhibiting distinct victim-family specialization patterns.