基于 CUDA 的分布式并行计算程序 - 0.1.0

【任务分值】 45 分

【背景描述】CUDA 是 NVIDIA 开发的并行计算平台，能够利用 GPU 的并行处理能力进行高效的计算。然而，当前的 CUDA 程序大多只能在单个节点上运行，无法充分利用分布式环境中的并行处理能力。本项目的目标是在已有的 CUDA 程序基础上，实现适用于分布式环境的程序，以便在多个节点上并行运行。

【需求描述】

• 制定分布式环境的架构和通信协议
• 修改已有的 CUDA 程序，使其能够在分布式环境中并行执行
• 实现节点状态监测和故障恢复机制
• 进行性能测试和优化

【环境要求】

• CUDA 11.0 或以上版本
• MPI (Message Passing Interface) 或其他通信协议
• 支持 CUDA 的 GPU

【产出标准】

• 完成分布式环境的架构和通信协议设计文档
• 完成 CUDA 程序的分布式并行版本的代码
• 完成性能测试和优化报告

【PR提交地址】本仓库的 distributed-cuda 目录

【期望完成时间】2023-11-31

【开发指导】

• https://developer.nvidia.com/cuda-zone
• https://www.mpi-forum.org/docs
• https://github.com/apache/hadoop
• https://spark.apache.org

【导师及邮箱】
Email: pengpeng@bytetrade.io

【备注】
确定选择此题目需要和导师沟通，对相关项目进行调研，确定本次任务的工作范围，编写项目方案后再进行开发。
需要有一定的开发基础，懂 CUDA 开发语言，理解并行计算和分布式系统的基本原理。