When Forgetting Builds Reliability: LLM Unlearning for Reliable Hardware Code Generation

📄 arXiv: 2512.05341v1 📥 PDF

作者: Yiwen Liang, Qiufeng Li, Shikai Wang, Weidong Cao

分类: cs.LG, cs.AR

发布日期: 2025-12-05

💡 一句话要点

提出面向硬件代码生成的LLM遗忘框架，提升代码可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: LLM遗忘 硬件代码生成 可靠性 语法保持 选择性损失

📋 核心要点

  1. 现有LLM在硬件代码生成中存在记忆专有IP、污染基准和不安全模式的问题，影响代码可靠性。
  2. 提出一种LLM遗忘框架，结合语法保持策略和细粒度选择性损失，精确移除有害知识。
  3. 实验表明，该框架支持更大规模的遗忘集，仅需单轮训练，并保证代码的语法和功能正确性。

📝 摘要（中文）

大型语言模型（LLM）在自动化代码生成方面展现出加速数字硬件设计的巨大潜力。然而，由于现有LLM在海量异构数据集上训练，常常存在对专有知识产权（IP）、受污染的基准测试和不安全编码模式的问题记忆，因此确保其可靠性仍然是一个关键挑战。为了缓解这些风险，我们提出了一种专门为基于LLM的硬件代码生成量身定制的遗忘框架。我们的方法结合了（i）一种语法保持的遗忘策略，该策略在遗忘过程中保护硬件代码的结构完整性，以及（ii）一种细粒度的、floor感知的选择性损失，该损失能够精确有效地移除有问题的信息。这种集成实现了有效的遗忘，而不会降低LLM的代码生成能力。大量的实验表明，我们的框架支持高达3倍的遗忘集，通常只需要一个训练epoch，同时保持寄存器传输级（RTL）代码的语法正确性和功能完整性。我们的工作为可靠的LLM辅助硬件设计铺平了道路。

🔬 方法详解

问题定义：论文旨在解决LLM在硬件代码生成中存在的可靠性问题。具体来说，现有的LLM由于在大量异构数据上训练，不可避免地会记忆一些不希望记忆的内容，例如专有IP、被污染的基准测试以及不安全的编码模式。这些问题记忆会导致生成的硬件代码存在安全隐患或侵权风险，严重阻碍了LLM在硬件设计领域的应用。

核心思路：论文的核心思路是通过LLM遗忘（Unlearning）技术，选择性地移除LLM中存储的有害知识，从而提高其生成硬件代码的可靠性。为了在遗忘过程中保证硬件代码的结构完整性，并实现高效的知识移除，论文提出了语法保持的遗忘策略和细粒度的floor感知的选择性损失。

技术框架：该遗忘框架主要包含两个核心模块：(1) 语法保持的遗忘策略：该策略在遗忘过程中约束LLM的参数更新，确保生成的硬件代码仍然符合Verilog或VHDL等硬件描述语言的语法规则，避免产生无效代码。(2) 细粒度的floor感知的选择性损失：该损失函数能够根据硬件代码的不同部分（例如，模块声明、端口定义、逻辑实现等）的重要性，以及其与有害知识的相关性，自适应地调整损失权重，从而实现对有害知识的精确移除。

关键创新：该论文的关键创新在于将LLM遗忘技术应用于硬件代码生成领域，并针对硬件代码的特点，提出了语法保持的遗忘策略和细粒度的floor感知的选择性损失。与通用的LLM遗忘方法相比，该方法能够更好地保证遗忘后的代码质量和功能完整性。

关键设计：语法保持的遗忘策略通过在损失函数中添加语法约束项来实现，该约束项惩罚违反语法规则的代码生成结果。细粒度的floor感知的选择性损失则通过一个可学习的权重矩阵来实现，该矩阵根据硬件代码的不同部分和有害知识的相关性，动态地调整损失权重。具体的网络结构和参数设置在论文中有详细描述，但未在此处明确给出。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，该遗忘框架能够支持高达3倍的遗忘集，且通常只需要一个训练epoch即可完成遗忘过程。同时，该框架能够有效地保持生成代码的语法正确性和功能完整性。与没有进行遗忘的模型相比，该框架能够显著降低生成包含有害知识的代码的概率，从而提高代码的可靠性。

🎯 应用场景

该研究成果可应用于自动化硬件设计流程，提高代码生成效率和可靠性。通过消除LLM中的有害知识，可以降低安全风险和侵权风险，加速芯片设计周期，并促进LLM在硬件设计领域的广泛应用。未来，该技术还可扩展到其他代码生成领域，例如软件开发和系统集成。

📄 摘要（原文）

Large Language Models (LLMs) have shown strong potential in accelerating digital hardware design through automated code generation. Yet, ensuring their reliability remains a critical challenge, as existing LLMs trained on massive heterogeneous datasets often exhibit problematic memorization of proprietary intellectual property (IP), contaminated benchmarks, and unsafe coding patterns. To mitigate these risks, we propose a novel unlearning framework tailored for LLM-based hardware code generation. Our method combines (i) a syntax-preserving unlearning strategy that safeguards the structural integrity of hardware code during forgetting, and (ii) a fine-grained floor-aware selective loss that enables precise and efficient removal of problematic knowledge. This integration achieves effective unlearning without degrading LLM code generation capabilities. Extensive experiments show that our framework supports forget sets up to 3x larger, typically requiring only a single training epoch, while preserving both syntactic correctness and functional integrity of register-transfer level (RTL) codes. Our work paves an avenue towards reliable LLM-assisted hardware design.