# GameGuard-RAG **Repository Path**: pythonShengDong/game-guard-rag ## Basic Information - **Project Name**: GameGuard-RAG - **Description**: 面向游戏社区 UGC 的内容安全审核与 RAG 风控平台 - **Primary Language**: Unknown - **License**: Not specified - **Default Branch**: main - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 0 - **Created**: 2026-07-14 - **Last Updated**: 2026-07-14 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # GameContentRisk-RAG 游戏/动漫社区 AI 内容风控 RAG 系统。项目基于 FastAPI、LangChain、Milvus Hybrid Search、MySQL 和本地/兼容 OpenAI 的 LLM 接口,实现社区内容的违规判定、规则溯源、整改建议和流式输出。 ## 当前场景 项目已收敛为 6 个风控场景: | 场景 ID | 用途 | | --- | --- | | `community_rules` | 游戏社区通用审核规则 | | `sensitive_content` | 涉黄、涉暴、涉政、低俗等敏感内容 | | `phishing_fraud` | 钓鱼诈骗、盗号、礼包骗局、虚假客服 | | `ad_spam` | 广告、引流、外链、交易导流 | | `privacy_desensitization` | 个人信息泄露、脱敏、开盒风险 | | `copyright_risk` | 同人、二创、素材搬运、商用授权边界 | 场景配置在 `scenarios//scenario.toml`,知识库原始资料在 `risk_knowledge_base//`。 ## 安装依赖 当前项目环境已建议使用: ```powershell conda activate game-content-risk-rag ``` 核心依赖: ```powershell python -m pip install --extra-index-url https://download.pytorch.org/whl/cpu -r requirements.txt ``` 可选依赖用于 OCR、Docling、RAGAS 和文档站点: ```powershell python -m pip install -r requirements-optional.txt ``` ## 环境配置 复制环境变量模板后按本机服务修改: ```powershell Copy-Item .env.local.example .env ``` 关键配置: ```env ACTIVE_SCENARIO_ID=community_rules MYSQL_DB=game_risk_db MILVUS_DB=game_risk LLM_MODEL=qwen3:4b LLM_BASE_URL=http://localhost:11434/v1 LLM_API_KEY=ollama-dummy-key ``` ## 启动 前置条件:本机需要能使用 Docker Desktop / Docker Compose。当前项目依赖 MySQL 和 Milvus, 未启动这两个服务时,`check_langchain_stack.py` 和 API 启动前置校验会失败。 启动 MySQL 和 Milvus: ```powershell docker compose --env-file .env.compose up -d ``` 启动 API: ```powershell python -m uvicorn app:app --host 127.0.0.1 --port 8000 ``` 访问: - 问答/审核页:http://127.0.0.1:8000/ - 状态页:http://127.0.0.1:8000/admin - 健康检查:http://127.0.0.1:8000/health 管理页 RBAC 登录: - 首次登录账号:`admin` - 首次登录密码:当前 `.env` 中的 `ADMIN_API_TOKEN` - 登录后可在“用户与角色”面板创建规则运营、审核员、只读访客等账号。 ## API 入口 | 路由 | 说明 | | --- | --- | | `GET /api/auth/catalog` | 管理端角色与权限目录 | | `POST /api/auth/login` | 管理端 RBAC 登录,首次可用 `admin` / `ADMIN_API_TOKEN` | | `GET /api/auth/me` | 查询当前登录账号、角色和权限 | | `POST /api/auth/logout` | 退出当前管理端会话 | | `GET /api/auth/users` | 超级管理员查看本地账号列表 | | `POST /api/auth/users` | 超级管理员创建本地账号并分配角色 | | `WS /api/audit/stream` | 风控流式审核主入口 | | `GET /api/audit/history/{audit_id}` | 审核历史查询 | | `POST /api/audit/batch` | 批量预审核,返回结构化风险结果 | | `POST /api/audit/batch/export` | 批量预审核 CSV 导出 | | `POST /api/retrieval/debug` | 检索调试 | | `GET /api/risk/scenarios` | 风控场景列表 | | `GET /api/risk/rules` | 当前场景规则文件列表 | | `GET /api/admin/risk_dashboard` | 管理端风控大盘只读统计 | | `GET /api/admin/bad_feedback/eval_set` | 管理端低质量反馈转评测集导出 | | `GET /api/admin/manual_review/cases` | 查询人工复核样本池 | | `POST /api/admin/manual_review/cases` | 手动加入待复核内容 | | `POST /api/admin/manual_review/cases/{case_id}/review` | 提交人工复核标注 | | `GET /api/admin/manual_review/eval_set` | 导出已复核样本为回归评测集 | | `POST /api/admin/manual_review/import_feedback` | 将低质量反馈导入人工复核池 | ## 人工复核闭环 管理页“人工复核闭环”面板支持三条路径: - 手动加入高风险样本,补充正确风险类型、风险等级、处置建议和违规片段。 - 一键导入当前场景的低质量反馈,统一进入复核池,不直接污染正式规则库。 - 导出已复核样本为 JSON 评测集,用于后续回归评测和规则调整验证。 导出的评测集可放入 `eval_sets/` 后执行: ```powershell python scripts\evaluate_core_chain.py --dataset eval_sets\manual_review_eval_set.json --limit 50 --output reports\evaluation\manual_review_latest.json ``` ## 构建知识库 重建单个场景: ```powershell python scripts\rebuild_kb_version.py --scenario community_rules --new-version --force --quality-gate --activate ``` 批量重建全部 6 个场景: ```powershell python scripts\rebuild_scenarios.py --all --new-version --force --quality-gate --activate ``` ## 验收检查 项目结构和风控场景守卫: ```powershell python scripts\check_project_guardrails.py ``` 真实服务 API 验收: ```powershell python scripts\api_e2e_smoke.py --base-url http://127.0.0.1:8000 ``` 端到端流式验收: ```powershell python scripts\acceptance_smoke.py --base-url http://127.0.0.1:8000 ``` ## 依赖分层 `requirements.txt` 只保留运行主链路必须依赖:FastAPI、LangChain、Milvus、Embedding/Reranker、MySQL、常见文档解析和 WebSocket 客户端。 `requirements-optional.txt` 放置非必需能力:Docling、PaddleOCR、RAGAS、MkDocs 文档站点等。首次跑通主链路时可以先不安装。