# Agentic Gateway

**Repository Path**: XichengWu/agentic-gateway

## Basic Information

- **Project Name**: Agentic Gateway
- **Description**: No description available
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2026-05-14
- **Last Updated**: 2026-05-14

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# Agentic Gateway

面向 LLM 请求的 AI 安全网关系统，在请求进入上游大模型之前完成安全检测与裁决（放行/复核/拦截），支持多租户、策略编排、SOC 运营与全量审计。

## 架构概览

```
用户/Agent → [Vue 前端] → [Java 网关] → [Python 安全引擎] → [vLLM / 上游 LLM]
                              │                  │
                              ├─ PostgreSQL      ├─ Milvus（向量检索）
                              ├─ Redis（缓存）    ├─ Redis
                              └─ gRPC            └─ MCP 工具服务
```

- **Java 网关层**：请求路由、认证鉴权、租户管理、安全决策编排
- **Python 安全引擎**：意图分类、策略匹配、语义缓存、A2A 多智能体协作检测、输出审核
- **vLLM 推理**：本地部署安全检测模型（Qwen2.5-3B），也支持对接外部 LLM
- **Vue 前端**：SOC 运营控制台，实时监控、策略配置、审计日志

## 技术栈

| 层 | 技术 |
|----|------|
| 网关 | Java 21, Spring Boot 3, gRPC, Flyway |
| 安全引擎 | Python 3.12, LangGraph, Milvus, gRPC |
| 推理 | vLLM, Qwen2.5-3B-Instruct, BGE-small-zh-v1.5 |
| 前端 | Vue 3, TypeScript, Vite |
| 工具服务 | MCP (Model Context Protocol), Python |
| 基础设施 | PostgreSQL 16, Redis 7, Milvus 2.4, MinIO, etcd |

## 快速开始

### 环境要求

- Docker 24+（Compose v2）
- NVIDIA 驱动 + NVIDIA Container Toolkit（如需 GPU 推理）
- 内存 ≥ 24GB，显存 ≥ 12GB（推荐）
- JDK 21 / Python 3.12 / Node.js 20+（仅本地开发调试需要）

### 一键部署

```bash
# 1. 准备环境变量（可选，使用默认值即可）
cp .env.example .env   # 或手动创建，参考下方配置项

# 2. 启动全部服务
docker compose up -d --build

# 3. 查看状态
docker compose ps
docker compose logs -f ag-vllm    # 等待模型加载完成
```

### 环境变量

| 变量 | 默认值 | 说明 |
|------|--------|------|
| `POSTGRES_DB` | `agentic_gateway` | 数据库名 |
| `POSTGRES_USER` | `agentic` | 数据库用户 |
| `POSTGRES_PASSWORD` | `agentic_pass` | 数据库密码 |
| `AUTH_BOOTSTRAP_ADMIN_USERNAME` | `admin` | 初始管理员用户名 |
| `AUTH_BOOTSTRAP_ADMIN_PASSWORD` | `Admin@123456` | 初始管理员密码 |
| `FRONTEND_PORT` | `5173` | 前端访问端口 |
| `VLLM_MODEL_ID` | `Qwen/Qwen2.5-3B-Instruct` | vLLM 模型标识 |
| `HF_ENDPOINT` | `https://hf-mirror.com` | HuggingFace 镜像（国内环境建议设置） |
| `HF_TOKEN` | - | 私有模型访问令牌（可选） |

### 首次登录

1. 打开 `http://localhost:5173`
2. 使用管理员账号登录（默认 `admin` / `Admin@123456`）
3. 首次登录后建议修改密码
4. 在「账号中心」配置上游 LLM 参数（Base URL、API Key）

### 健康检查

| 组件 | 地址 | 说明 |
|------|------|------|
| 前端 | `http://localhost:5173` | Vue 控制台 |
| vLLM | `http://localhost:8000/health` | 模型推理健康 |
| Java API | `http://localhost:8080` | 容器内网关接口 |

## 项目结构

```
agentic-gateway-java/       # Java 网关（Spring Boot 多模块）
  gateway-api/              # REST API 与控制器
  gateway-core/             # 核心业务逻辑
  gateway-security/         # 安全认证模块
  gateway-storage/          # 数据持久层
  gateway-grpc-client/      # gRPC 客户端（调用 Python 引擎）
  gateway-grpc-server/      # gRPC 服务端
  gateway-observability/    # 可观测性
  gateway-tenant-service/   # 多租户服务
agentic-security-python/    # Python 安全引擎（LangGraph + Milvus）
  app/node/                 # 安全检测节点（策略、缓存、A2A 协作等）
  app/service/              # 服务层（意图分类、LLM 推理）
  model/                    # 本地模型（BGE 嵌入模型）
  training/                 # 安全模型训练管线
agentic-proto-contract/     # Protobuf 协议定义
agentic-tool-mcp/           # MCP 工具服务
agentic-view-vue/           # Vue 3 前端控制台
deploy/                     # 部署脚本与配置
docs/                       # 详细文档
```

## 文档

| 文档 | 说明 |
|------|------|
| `docs/PROJECT_STRUCTURE_FULL.md` | 项目结构详解（含架构图） |
| `docs/USAGE_GUIDE_FULL.md` | 完整使用手册 |
| `项目架构文档.md` | 系统架构设计 |
| `项目设计文档.md` | 详细设计说明 |
| `项目操作文档.md` | 运维操作指南 |
| `安装配置说明（部署说明）.md` | 部署配置详解 |

## 版本

当前版本：`v1.8.6`