Agentic AI Software Engineers: Programming with Trust

📄 arXiv: 2502.13767v4 📥 PDF

作者: Abhik Roychoudhury, Corina Pasareanu, Michael Pradel, Baishakhi Ray

分类: cs.SE, cs.AI

发布日期: 2025-02-19 (更新: 2025-09-21)

备注: 5 pages

期刊: Communications of the ACM, 2026

💡 一句话要点

基于信任的Agentic AI软件工程师：利用LLM Agent提升软件工程自动化

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: AI软件工程 大型语言模型 LLM Agent 代码生成 代码分析 软件信任 自动化编程

📋 核心要点

  1. 核心问题：当前AI在软件工程中的应用，面临信任度不足的挑战，阻碍了其大规模部署。
  2. 方法要点：利用LLM Agent将LLM的代码生成能力与代码分析工具结合，提升代码质量和可信度。
  3. 实验或效果：该文为观点性文章，未提供实验数据，但指出了LLM Agent在软件工程领域的潜在价值。

📝 摘要（中文）

大型语言模型（LLMs）在生成代码片段方面表现出惊人的能力，有望通过人工智能（AI）实现软件工程大部分环节的自动化。我们认为，成功部署AI软件工程师需要达到甚至超过人工驱动软件工程实践所建立的信任水平。LLM Agent的最新趋势提供了一条途径，将LLM创建新代码的能力与分析工具相结合，从而提高对代码的信任度。本文评论了LLM Agent是否会在未来主导软件工程工作流程，以及编程的重点是否会从大规模编程转向基于信任的编程。

🔬 方法详解

问题定义：论文探讨了如何提高AI在软件工程领域的应用，特别是利用大型语言模型（LLMs）自动生成代码时所面临的信任问题。现有方法生成的代码可能存在缺陷、安全漏洞或不符合规范，导致开发者对其可靠性产生怀疑，从而限制了AI在软件工程中的广泛应用。

核心思路：论文的核心思路是利用LLM Agent，将LLM的代码生成能力与代码分析工具相结合，从而提高代码的质量和可信度。通过分析工具对LLM生成的代码进行验证、测试和修复，可以有效地减少代码中的错误和漏洞，增强开发者对AI生成代码的信任感。

技术框架：论文并未提供具体的框架，而是提出了一个概念性的流程。该流程包括以下几个主要阶段：1) LLM Agent利用LLM生成代码；2) 代码分析工具对生成的代码进行静态分析、动态测试和安全审计；3) 根据分析结果，LLM Agent对代码进行修复和优化；4) 开发者对最终的代码进行审查和确认。

关键创新：论文的关键创新在于强调了在AI软件工程中建立信任的重要性，并提出了利用LLM Agent将代码生成与代码分析相结合的思路。这种思路有望解决当前AI在软件工程领域面临的信任危机，促进AI在软件工程中的更广泛应用。

关键设计：论文是观点性文章，没有涉及具体的参数设置、损失函数或网络结构等技术细节。未来的研究可以探索如何设计更有效的LLM Agent，以及如何选择和集成合适的代码分析工具，以实现更高的代码质量和可信度。

📊 实验亮点

本文为观点性文章，主要亮点在于提出了“基于信任的AI软件工程师”这一概念，并强调了LLM Agent在提高代码质量和可信度方面的潜力。虽然没有提供具体的实验数据，但该文为未来的研究方向提供了有价值的指导。

🎯 应用场景

该研究成果可应用于软件开发、测试和维护等多个领域。通过提高AI生成代码的可靠性和可信度，可以显著提高软件开发的效率和质量，降低开发成本。此外，该研究还有助于推动AI在其他领域的应用，例如智能合约、嵌入式系统和安全关键系统等。

📄 摘要（原文）

Large Language Models (LLMs) have shown surprising proficiency in generating code snippets, promising to automate large parts of software engineering via artificial intelligence (AI). We argue that successfully deploying AI software engineers requires a level of trust equal to or even greater than the trust established by human-driven software engineering practices. The recent trend toward LLM agents offers a path toward integrating the power of LLMs to create new code with the power of analysis tools to increase trust in the code. This opinion piece comments on whether LLM agents could dominate software engineering workflows in the future and whether the focus of programming will shift from programming at scale to programming with trust.