# Learn-LLM-SFT-Easily

**Repository Path**: coderwillyan/learn-llm-sft-easily

## Basic Information

- **Project Name**: Learn-LLM-SFT-Easily
- **Description**: 轻松学AI系列之： 轻松学习LLM大语言模型微调
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 2
- **Created**: 2025-03-31
- **Last Updated**: 2025-12-12

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# Learn LLM SFT Easily - 大模型轻松微调指南

一个系统化的 **大模型监督微调（SFT）学习项目**，涵盖了从 **SFT 理论基础** 到 **主流微调框架（PEFT / LLaMA-Factory）** 的完整实践流程。

适合 **LLM 算法工程师入门者** 和 **希望自定义大模型能力的开发者**，提供了详细的理论讲解、实践教程和代码示例。

## 📁 项目结构

```
learn-llm-sft-easily/
│
├── assets/                    # 资源文件（如图片、配置文件等）
│
├── 00_SFT理论/                # 00 - SFT Theory
├── 01_SFT Practice-PEFT/     # 01 - Hands-on: PEFT
├── 02_SFT Practice-LLaMA-Factory/ # 02 - Hands-on: LLaMA-Factory
│
└── README.md                 # 项目总说明（本文档）
```

## 📚 学习线路

请按顺序阅读和实践，以构建完整的知识体系：

### 第一阶段：理论基础

1. **【00_SFT理论】**：深入理解监督微调的基本原理、作用价值以及常见的技术方法。

### 第二阶段：微调框架实践（选择一种或全部学习）

1. **【01_SFT Practice-PEFT】**：使用 PEFT（Parameter-Efficient Fine-Tuning）进行参数高效微调，适合计算资源有限的场景。
2. **【02_SFT Practice-LLaMA-Factory】**：掌握 LLaMA-Factory 这一功能强大的微调框架，支持多种模型和训练策略。

## 🚀 快速开始

### 1. 克隆项目

```
git clone https://gitee.com/your-username/learn-llm-sft-easily.git
cd learn-llm-sft-easily
```

### 2. 创建虚拟环境

推荐使用 **Python 3.10+**：

**推荐在提供的Jupyter/VSCode环境运行**：

```
conda create -n env_sft python=3.10 -y
conda activate env_sft

pip install jupyter
python -m ipykernel install --user --name=env_sft --display-name "Python3 (env_sft)"
```

### 3. 按目录学习

推荐快速学习线路：
```
00_llm-sft一页纸速通-LLaMA-Factory.ipynb
```