LLM 时代构建软件的三大最佳实践

人工智能已迅速成为现代软件开发的核心组成部分。它不仅帮助开发者以前所未有的速度编写代码，还能自动化执行编写测试用例或总结文档等基础任务。根据我们 2024 年全球 DevSecOps 调研，81% 的开发者已在工作流中使用 AI 或计划在未来两年内使用。

随着代码编写所需的手动努力减少，我们观察到一个微妙但重要的行为变化：开发者开始以更少的审查信任 AI 生成的代码。这种信心——尽管可以理解——可能悄然引入安全风险，尤其是在代码总量持续增长的情况下。开发者不可能掌控所有漏洞或攻击方式，因此我们需要可随其规模扩展的系统和防护措施。AI 工具必将长期存在。作为安全专业人员，您有责任赋能开发者以兼顾速度与安全的方式使用这些工具。

以下是三个实用方法：

永不信任，始终验证

如前所述，开发者正更轻易地信任 AI 生成的代码，尤其当其看起来简洁且编译无误时。为应对此问题，需采用零信任思维模式。虽然我们常在身份与访问管理领域讨论零信任，但相同原则稍作调整即可应用于此处：将 AI 生成的代码视为初级开发者的提交——虽有帮助，但未经严格审查前绝不能直接投产。

开发者必须能在代码合并前解释其功能及安全性。审查 AI 生成的代码甚至可能发展为软件开发领域的新兴必备技能。擅长此道的开发者将不可或缺，因为他们能融合 LLM 的速度与风险控制思维，更快地产出安全代码。

这正是 GitLab Duo 代码评审等工具的用武之地。作为贯穿软件开发生命周期的 AI 助手功能，它将 AI 引入代码评审流程，并非取代人类判断，而是增强判断力。通过在合并请求中揭示疑问、逻辑矛盾及被忽视的问题，AI 能帮助开发者跟上那些加速开发周期的 AI 工具的步伐。

构建安全模式的提示工程

大语言模型（LLM）固然强大，但其精确度完全取决于所接收的提示词。这就是为何提示工程正成为使用 AI 工具的核心技能。在 LLM 领域，您的输入即交互界面。掌握编写清晰且具备安全意识的提示词的开发者，将在构建安全软件的过程中发挥关键作用。

例如，类似“构建登录表单”的模糊请求通常会产生不安全或过于简化的结果。而通过补充更多上下文，如“构建具备输入验证、速率限制、哈希加密功能，并支持密钥（passkeys）等抗钓鱼身份验证方法的登录表单”，您更有可能获得符合组织安全标准的输出。

Backlash Security 的最新研究证实了这一点：他们发现安全提示能提升主流 LLM 的输出质量。当开发者仅要求模型“编写安全代码”时，成功率仍然较低；但当提示词引用 OWASP 最佳实践时，安全代码的生成率显著提升。

提示工程应成为开发团队中培训安全骨干的核心内容。正如我们教授安全编码模式和威胁建模，同样应教导开发者如何以相同的安全思维引导 AI 工具。

全面扫描，无一例外

AI 的兴起意味着在人力不变的情况下，我们正更快地产出更多代码。这种转变应改变我们对安全的认知——安全不仅是最终检查环节，更应是贯穿开发全流程的持续防护机制。

代码量增加意味着攻击面扩大。当代码部分或全部由 AI 生成时，我们无法仅依赖安全编码规范或个人直觉识别风险。自动化扫描工具由此至关重要：静态应用安全测试（SAST）、软件成分分析（SCA）和秘密检测成为缓解密钥泄露、供应链攻击及 SQL 注入等弱点的关键控制措施。借助 GitLab 等平台，应用安全原生集成至开发者工作流，自然融入开发生命周期。扫描工具还能追溯整个程序，确保新增的 AI 生成代码在整体代码环境中安全无虞——若仅通过 IDE 或 AI 补丁查看片段代码，这一点很难实现。

但这不仅是扫描的问题，更是同步速度的问题。开发团队若想匹配 AI 辅助开发的速度，就需要快速、精准且可扩展的扫描能力。精准度尤为关键：若扫描工具用误报淹没开发者，可能导致对整个系统失去信任。

既要敏捷又要安全的唯一途径，就是将扫描设为不可妥协的硬性要求：

每次提交必扫。 每个分支必检。 毫无例外。

用 GitLab 守护 AI 生成的代码

AI 正在改变软件开发方式，但安全软件开发的基本原则依然适用：代码仍需评审，威胁仍需测试，安全仍需融入工作流程。这正是 GitLab 的实现之道。

作为开发者平台，我们并非将安全额外添加到工作流中，而是将其直接嵌入开发者现有工作场景：在 IDE 中、在合并请求里、在流水线内。扫描自动运行，相关安全信息即时呈现以加速修复周期。由于平台已集成开发、测试与部署功能，开发者无需切换工具，减少上下文切换，更顺畅地实现代码安全。

AI 并非安全的捷径。但借助正确的实践——以及契合开发者工作场景的平台——它完全可以成为构建快速、安全、可扩展软件的关键助力。