On the security and privacy of LLMs in Mobility
作者: Mauro Conti, Lorenzo Perinello, Umberto Salviati
分类: cs.CR, cs.AI
发布日期: 2026-09-22
💡 一句话要点
评估大型语言模型在移动领域的安全与隐私挑战
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 移动领域 安全性 隐私保护 合规性 智能交通 生成性人工智能
📋 核心要点
- 现有研究主要集中在大型语言模型的性能优化上，忽视了安全性、隐私和可靠性等重要问题。
- 论文通过对现有文献的调查，提出了九个技术类别，以评估当前研究和未来部署的合规性。
- 研究表明，尽管有强大的优化性能，但在合规性方面存在明显差距，强调了安全设计的紧迫性。
📝 摘要（中文）
随着生成性人工智能的进步，移动领域正在经历范式转变。全球汽车市场年值约2.9万亿美元，超过15亿辆汽车可能受到这些技术的影响。本文调查了大型语言模型（LLMs）在移动领域的应用，并评估了与网络安全、隐私和可靠性相关的挑战。研究发现，现有文献主要集中在GPT和Llama模型及交通应用上，而对安全性、隐私和可靠性的关注较少。尽管欧洲人工智能法案将交通AI视为高风险，但在35篇文献中，仅有一篇涉及部分脆弱性评估，另一篇涉及部分风险管理系统，表明技术合规性受到重视不足，亟需在安全关键的智能交通系统中实现安全设计。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在移动领域应用中面临的安全性、隐私和可靠性问题。现有方法在这些方面的研究较为薄弱，导致合规性不足。
核心思路：通过对现有文献的系统性调查，识别出技术合规性与优化性能之间的差距，提出九个技术类别以指导未来研究。
技术框架：研究首先对现有文献进行分类，分析其在安全性、隐私和可靠性方面的不足，然后根据欧洲人工智能法案的要求，构建评估框架。
关键创新：论文的创新点在于系统性地将现有研究与法规要求相结合，提出了针对性强的技术类别，强调了安全设计的重要性。
关键设计：在评估过程中，论文采用了文献回顾的方法，重点关注了GPT和Llama模型的应用，分析了其在交通领域的实际应用案例。
🖼️ 关键图片
📊 实验亮点
研究发现，在35篇文献中，仅有一篇涉及部分脆弱性评估，另一篇涉及部分风险管理系统，显示出当前研究在安全性和合规性方面的不足。强调了在智能交通系统中实现安全设计的紧迫性。
🎯 应用场景
该研究的潜在应用领域包括智能交通系统、自动驾驶汽车和车联网等。通过提升安全性和隐私保护，能够增强用户对智能交通技术的信任，促进其广泛应用。未来，随着技术的不断发展，安全设计将成为智能交通系统的核心要求。
📄 摘要（原文）
The mobility sector is undergoing a paradigm shift driven by advances in Generative Artificial Intelligence. With a global market valued at approximately 2.9 trillion dollars annually, considering only cars, the integration of these technologies has the potential to impact more than 1.5 billion vehicles worldwide. As Large Language Models (LLMs) are increasingly adopted in mobility, concerns about cybersecurity, privacy, and reliability emerge. Accordingly, this paper surveys current applications and assesses these challenges. Since the European AI Act classifies transportation AI as high risk, we derive nine technical classes from its requirements to assess current research and future deployments. Our findings show that research mainly studies GPT and Llama models (over 50\% of reviewed works) and traffic applications while largely neglecting security, privacy, and reliability. This gap extends to AI Act compliance: among 35 reviewed works, only one includes a partial vulnerability assessment and one a partial risk management system. We identify a clear gap between strong optimization performance and regulatory adherence, suggesting compliance is limited less by technology than by a focus on static performance over lifecycle safety, and underscoring an urgent need for security-by-design in safety-critical intelligent transportation systems.