CUDA GPT-2 推理引擎（个人项目）| CUDA / C++ / pybind11 从零手搓 GPT-2 推理引擎，覆盖 PagedAttention、Prefill/Decode 分离、LRU 抢占调度三大机制

华为-华南理工大学技术合作项目：昇腾编译器复杂控制流分析与自动切分融合。 针对Triton/PyTorch中复杂控制流（多层循环/分支交织）与指针操作（addptr/advance）的编译优化，设计指针分析算法与自动切分融合方案，基于昇腾NPU VF单元提升算力利用率，目标性能达到同等算力下竞品1.0x。 本仓库记录个人学习笔记、代码实现、测试用例与性能调优过程。

LLM 量化全链路：从手写 PTQ 到 GPTQ 到端侧部署 | PyTorch / llama.cpp · 手写逐张量/逐通道/逐组量化原语，在 GPT-2 上实现完整 PTQ 流程（校准、敏感层分析、混合精度回退）。

GPT-2 ONNX 导出与推理部署 | ONNX / ONNX Runtime · 完成 GPT-2 的 ONNX 导出全链路，处理动态轴配置、三件套输入（input_ids/attention_mask/position_ids）等工程细节

TensorRT 自定义算子实验：图手术 + Plugin 开发 | TensorRT / ONNX · 用 onnx_graphsurgeon 做图手术，将 YOLO11n 中 77 处 Sigmoid+Mul 融合为自定义算子 SigmoidMul_TRT