[TOC]

解决方案介绍

该解决方案帮助您在华为云上快速部署单机版、高可用版Dify LLM应用开发平台，同时支持将在Dify应用开发平台创建的的文档知识库挂载华为云对象存储服务 OBS桶。Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务（Backend as Service）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。

解决方案实践详情页面：https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html

架构图

架构描述

该解决方案会部署如下资源：

云服务器单机部署：

1. 创建一台华为云Flexus云服务器X实例，用于搭建Dify-LLM应用开发平台

2. 创建一个弹性公网IP EIP并关联华为云Flexus云服务器X实例，提供访问公网和被公网访问能力

3. 创建一个安全组，通过配置安全组规则，为云服务器提供安全防护

CCE容器高可用部署：

1. 创建三个弹性公网IP EIP，提供访问公网和被公网访问能力

2. 创建一个弹性负载均衡 ELB，并绑定EIP，将访问流量自动分发到不同后端服务，扩展应用系统对外的服务能力，实现强大的应用容错性能

3. 创建一个NAT网关 NAT，并绑定EIP，配置SNAT规则，提供安全可靠的公网NAT网关和私网NAT网关服务，保护私有网络信息不对外暴露

4. 创建三个华为云Flexus云服务器X实例，使用Helm包部署Dify（5个核心插件）

5. 创建一个云容器引擎 CCE Turbo集群，创建节点池并将三台FlexusX实例纳管为集群的 Node 节点

6. 创建一个华为云FlexusX实例，用于部署Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型

7. 使用对象存储服务 OBS，用于将Dify的知识库挂载在对象存储服务OBS桶上

8. 创建一个分布式缓存服务Redis®*版，兼容Redis，为用户提供高性能、低成本NoSQL数据库，同时数据流转过程中数据的一致性

9. 创建一个云数据库 RDS for PostgreSQL实例，主备分区部署，具备跨可用区故障容灾的能力

10. 创建一个云搜索服务 CSS OpenSearch集群，提供在线分布式搜索及语义搜索等功能

11. 创建四个安全组，通过配置安全组规则，为云服务器提供安全防护

组织结构

huaweicloud-solution-building-a-dify-llm-application-development-platform
├── standalone_deployment
    ├── building-a-dify-llm-application-development-platform.tf.json -- 资源编排模板
    ├── userdata
        ├── dify_search.sh  -- 应用安装脚本
├── high_availability_deployment
    ├── building-a-dify-llm-application-development-platform-k8s.tf -- 资源编排模板

开始使用

1、登录开发平台：输入访问地址，即可浏览Dify的开发平台。首次登录需注册管理员账号，依次填写邮箱、账号、密码。

图1 设置管理员账户

2、浏览器进入您部署的Dify平台界面，依次输入上一步骤中的“邮箱”“密码”登录Dify平台。

图2 登录Dify平台

图3 Dify平台