AgentGateway 是一个开源代理网关，把 AI Agent 与 LLM、工具、其他 Agent 之间的三类通信统一收敛到一层可治理的通道上。仓库 agentgateway/agentgateway 目前约 4.6k star、771 fork，最新版本 v1.4.1 发布于 2026 年 7 月 29 日，是第 96 个 release；项目由 Linux Foundation 托管，采用 Apache-2.0 许可证，239 名贡献者，代码以 Rust（64.7%）为主，Go（23.1%）与 TypeScript（9.5%）为辅。截至 2026 年 8 月 26 日，仓库仍有当日合并的提交，开发没有放缓。
三类网关能力
Agent 体系的通信对象有三种：大模型、外部工具、其他 Agent。AgentGateway 为此分别提供了 LLM Gateway、MCP Gateway 与 A2A Gateway。
LLM Gateway 把 OpenAI、Anthropic、Gemini、Bedrock 等主流模型供应商统一到一套 OpenAI 兼容 API 后面。应用方只需对接一个地址，由网关负责预算与消费控制、提示词增强、负载均衡与故障转移。
MCP Gateway 负责 Agent 与工具、外部数据源之间的连接。它支持 MCP 的 stdio、HTTP、SSE、Streamable HTTP 四种传输方式，能做工具联邦（tool federation），并集成 OpenAPI 与 OAuth 认证。一个 Agent 通过网关即可触达分散在不同服务器上的工具。
A2A Gateway 处理 Agent 与 Agent 之间的通信，基于 A2A 协议提供能力发现、模态协商与任务协作。多个 Agent 协作时，网关负责把各自能力暴露给对方并管理会话与任务流转。
自托管模型路由
对自托管模型的场景，AgentGateway 通过 Kubernetes Inference Gateway 扩展做智能路由，决定请求进入哪个推理后端。路由依据包括 GPU 利用率、KV cache 状态、LoRA 适配器与队列深度——不是简单轮询，而是按推理资源的实时负载分派。
安全与治理
网关是流量的必经点，安全能力因此集中在这里。Guardrails 提供多层内容过滤，可组合使用正则、OpenAI moderation、AWS Bedrock Guardrails、Google Model Armor 与自定义 webhook。认证支持 JWT、API key 与 OAuth；细粒度 RBAC 由 CEL 策略引擎实现；限流、TLS 与 OpenTelemetry 指标、日志、追踪也内置其中。对需要审计与合规的团队，这些能力避免了在每套 Agent 上各自实现一遍。
项目状态与部署方式
项目由 Linux Foundation 托管，属于基金会项目而非个人玩具项目，这一点对选型有实际意义：许可证为 Apache-2.0，贡献者 239 人，issue 249 个、PR 76 个，社区会议与路线图公开。最新版本 v1.4.1（2026-07-29），且 8 月 26 日仍有 guardrails 相关提交合并，处于活跃开发期。
部署有两种路径。Standalone 模式不需要完整 Kubernetes 控制器，用扁平 YAML 配置即可在几分钟内启动；Kubernetes 模式则使用内置 controller 与 Gateway API，适合已有集群、需要以声明式方式管理网关的团队。两种模式都附带内置 UI，可以可视化地查看 Agent 与 Agent、Agent 与工具之间的连接。
当团队的 Agent 开始同时对接多家 LLM、一批 MCP 工具、还要彼此通信时，AgentGateway 提供了现成的一层统一网关——开源、可自托管、安全治理随流量路径内置，Rust 实现，Linux Foundation 托管，值得作为 AI 连接层的选型候选。