担心代码数据出域,自部署模型这条路怎么走

极狐GitLab
2026年11月6日
12000
分享:

担心代码数据出域,自部署模型这条路怎么走

一句话定义:自部署模型(Self-hosted models)指把 AI 编码能力所需的模型推理整体搬进企业自己的环境——通过自部署 AI 网关连接本地或私有云的大模型,让代码补全、代码评审、Agent 智能体等能力在内部网络闭环运行,代码与提示词不离开企业边界。

不少团队在评估 AI 编码工具时的第一道关卡不是效果,而是合规。代码是企业的核心资产,把它整段送到外部 API,安全评审那一关就很难过。于是很多企业的做法是干脆禁用,研发效率的红利一分没拿到。其实还有第三条路:AI 网关和模型都留在内网,只把 AI 能力接进来。

为什么数据出域是绕不开的坎

外部大模型服务的工作方式,决定了代码必须离开企业网络才能完成推理。对金融、军工、能源这类行业,这与数据安全红线直接冲突。常见的折中方案各有代价:

方案

数据是否出域

代价

直接禁用 AI 工具

否

研发效率红利为零,员工私下偷用更危险

用外部大模型 API

是

代码、提示词、响应全部经过第三方

自部署模型 + AI 网关

否

需要自建推理基础设施

自部署方案的关键在 AI 网关。它是模型调用的统一入口:研发平台把请求发给内网的 AI 网关,网关再把请求转给企业自选的大模型。整个过程里,代码输入、模型提示和响应都在企业网络内流转,不产生外部 API 调用。

自部署模型怎么落地

极狐GitLab Duo 支持自部署模型架构,配置路径分三步。

第 1 步:确认版本与许可证

自部署模型要求极狐GitLab 17.9 及以上版本(Duo Agent Platform 需 18.8 及以上),且需要 Duo Enterprise 附加组件。私有化部署实例配合离线许可证时,实例不连接任何外部服务,按企业许可协议计费。

第 2 步:部署 AI 网关并接入模型

在企业内网部署 AI 网关,从官方支持的自部署模型列表中选择模型接入。这里有一个容易被误解的点:完全自部署不等于只能用开源模型。后端仍然可以选 AWS Bedrock、Azure OpenAI 这类云端推理服务——流量走的是你自己的网关,管控权在你手里。当然,要做到网络完全隔离,就选择本地部署的模型。

网络侧只需要放行极少量的出站连接(在线许可证场景):

customers.jihulab.com:443   # 许可证与订阅信息同步
cloud.jihulab.com:443       # 用量配额检查与计费元数据上报

离线许可证场景下,这两个连接也不需要。

第 3 步:验证数据流向

这是安全团队最关心的一步。自部署模式下,出站的只有计费元数据,其结构是固定的 JSON:

{
  "InstanceId": "ccbb3949-9836-471c-b2nb-32a38e8cca99",
  "GlobalUserId": "KWDTe17sGSADiAzEGJ6IuL1D7RAzsXqa2wun3aX1YuA=",
  "Quantity": 1,
  "Timestamp": "2026-05-04 18:04:30.969000000"
}

其中 GlobalUserId 是由实例 ID 和用户 ID 经 SHA-256 生成的去标识化标识符。代码输入、模型提示和模型响应不离开客户网络,平台方也不会捕获客户使用的是哪个模型。这份 JSON 结构可以直接作为安全评审的举证材料。

混合配置,适合不想一步到位的团队

自部署和全托管之间还有一个中间档:混合配置。每项 AI 功能可以单独选择走自部署网关还是极狐GitLab 托管模型。比如代码补全这类高频功能走内网模型,代码评审这类低频功能先走托管模型试用,效果确认后再切换。

配置

基础设施

网络要求

适用场景

完全自部署

自建网关+模型

可完全隔离

强合规行业

混合配置

自建网关,按功能选模型

托管功能需联网

逐步过渡

全托管

无需自建

需互联网连接

合规压力小的团队

哪些能力可以跑在自部署模型上

代码建议、代码解释、测试生成、重构代码、修复代码(17.9 及以上),代码评审(18.3 及以上),以及 Duo Agent Platform(18.8 及以上)均已正式支持自部署模型。根因分析、漏洞解释、合并请求摘要等处于测试阶段。功能清单随版本更新,落地前建议对照官方文档核对当前版本的支持情况。

落地前的三个检查点

检查点一:在线许可证的网络放行别漏。 在线许可证按用量计费,防火墙若拦截了 cloud.jihulab.com 的出站流量,配额检查会失败,AI 功能直接不可用。上线前先和安全团队对齐这两个域名的放行清单。

检查点二:功能清单要按版本核对。 自部署模型的功能矩阵和 SaaS 版并不完全同步,同一能力可能一个是正式发布、另一个还在测试阶段。别拿 SaaS 的体验做承诺,先查自己版本的支持表。

检查点三:去标识化标识的边界要讲清楚。 GlobalUserId 虽经过 SHA-256 处理,但如果企业自己构建了实例 ID 与用户 ID 的查找表,理论上存在映射回特定用户的可能。做安全评审时主动把这个边界讲透,比被问出来更体面。

FAQ

问:自部署模型的效果会比托管模型差吗?

答:效果取决于所选模型的能力,而不是部署位置。自部署网关只是调用链路的改造,企业可以按需换用更强的模型。混合配置还允许逐项对比后再切换。

问:模型更新谁负责?

答:自部署场景下模型升级由企业自己控制,这既是运维成本,也是优势——版本变化完全可控,不会被外部服务的模型变更打了个措手不及。

问:员工用的编辑器插件怎么算?

答:自部署约束的是推理链路。只要 AI 网关和模型在内网,编辑器侧的调用同样走内网链路,代码不出域的结论不变。

结语

数据合规与研发效率不是单选题。自部署模型把推理留在内网,出站的只有一份去标识化的计费元数据,安全评审有据可依。如果你的团队正卡在"AI 工具想用不敢用"的阶段,可以预约一次私有化部署方案沟通,看看现有基础设施离自部署 AI 网关还有多远。