代码拉取完成，页面将自动刷新
제로샷 텍스트 음성 변환 (TTS): 5초의 음성 샘플을 입력하면 즉시 텍스트를 음성으로 변환할 수 있습니다.
소량의 데이터 TTS: 1분의 훈련 데이터만으로 모델을 미세 조정하여 음성 유사도와 실제감을 향상시킬 수 있습니다.
다국어 지원: 훈련 데이터셋과 다른 언어의 추론을 지원하며, 현재 영어, 일본어, 중국어, 광둥어, 한국어를 지원합니다.
WebUI 도구: 음성 반주 분리, 자동 훈련 데이터셋 분할, 중국어 자동 음성 인식(ASR) 및 텍스트 주석 등의 도구를 통합하여 초보자가 훈련 데이터셋과 GPT/SoVITS 모델을 생성하는 데 도움을 줍니다.
데모 비디오를 확인하세요! demo video
보지 못한 발화자의 퓨샷(few-shot) 파인튜닝 데모:
https://github.com/RVC-Boss/GPT-SoVITS/assets/129054828/05bee1fa-bdd8-4d85-9350-80c060ab47fb
| Python Version | PyTorch Version | Device |
|---|---|---|
| Python 3.10 | PyTorch 2.5.1 | CUDA 12.4 |
| Python 3.11 | PyTorch 2.5.1 | CUDA 12.4 |
| Python 3.11 | PyTorch 2.7.0 | CUDA 12.8 |
| Python 3.9 | PyTorch 2.8.0dev | CUDA 12.8 |
| Python 3.9 | PyTorch 2.5.1 | Apple silicon |
| Python 3.11 | PyTorch 2.7.0 | Apple silicon |
| Python 3.9 | PyTorch 2.2.2 | CPU |
Windows 사용자라면 (win>=10에서 테스트됨), 통합 패키지를 다운로드한 후 압축을 풀고 go-webui.bat 파일을 더블 클릭하면 GPT-SoVITS-WebUI를 시작할 수 있습니다.
conda create -n GPTSoVits python=3.10
conda activate GPTSoVits
bash install.sh --device <CU126|CU128|ROCM|CPU> --source <HF|HF-Mirror|ModelScope> [--download-uvr5]
주의: Mac에서 GPU로 훈련된 모델은 다른 OS에서 훈련된 모델에 비해 품질이 낮습니다. 해당 문제를 해결하기 전까지 MacOS에선 CPU를 사용하여 훈련을 진행합니다.
다음 명령어를 실행하여 이 프로젝트를 설치하세요
conda create -n GPTSoVits python=3.10
conda activate GPTSoVits
bash install.sh --device <MPS|CPU> --source <HF|HF-Mirror|ModelScope> [--download-uvr5]
conda create -n GPTSoVits python=3.10
conda activate GPTSoVits
pip install -r extra-req.txt --no-deps
pip install -r requirements.txt
conda activate GPTSoVits
conda install ffmpeg
sudo apt install ffmpeg
sudo apt install libsox-dev
ffmpeg.exe와 ffprobe.exe를 GPT-SoVITS root 디렉토리에 넣습니다
brew install ffmpeg
코드베이스가 빠르게 업데이트되는 반면 Docker 이미지 릴리스 주기는 느리기 때문에 다음을 참고하세요:
Lite 는 Docker 이미지에 ASR 모델과 UVR5 모델이 포함되어 있지 않음을 의미합니다. UVR5 모델은 사용자가 직접 다운로드해야 하며, ASR 모델은 필요 시 프로그램이 자동으로 다운로드합니다is_half: 반정밀도(fp16) 사용 여부를 제어합니다. GPU가 지원하는 경우 true로 설정하면 메모리 사용량을 줄일 수 있습니다Windows(Docker Desktop)에서는 기본 공유 메모리 크기가 작아 예기치 않은 동작이 발생할 수 있습니다. 시스템 메모리 상황에 따라 Docker Compose 파일에서 shm_size를 (예: 16g)로 증가시키는 것이 좋습니다
docker-compose.yaml 파일에는 두 가지 서비스 유형이 정의되어 있습니다:
GPT-SoVITS-CU126 및 GPT-SoVITS-CU128: 전체 기능을 포함한 풀 버전GPT-SoVITS-CU126-Lite 및 GPT-SoVITS-CU128-Lite: 의존성이 줄어든 경량 버전특정 서비스를 Docker Compose로 실행하려면 다음 명령을 사용하세요:
docker compose run --service-ports <GPT-SoVITS-CU126-Lite|GPT-SoVITS-CU128-Lite|GPT-SoVITS-CU126|GPT-SoVITS-CU128>
직접 이미지를 빌드하려면 다음 명령어를 사용하세요:
bash docker_build.sh --cuda <12.6|12.8> [--lite]
컨테이너가 백그라운드에서 실행 중일 때 다음 명령어로 셸에 접속할 수 있습니다:
docker exec -it <GPT-SoVITS-CU126-Lite|GPT-SoVITS-CU128-Lite|GPT-SoVITS-CU126|GPT-SoVITS-CU128> bash
install.sh가 성공적으로 실행되면 No.1,2,3 은 건너뛰어도 됩니다.
GPT-SoVITS Models 에서 사전 학습된 모델을 다운로드하고, GPT_SoVITS/pretrained_models 디렉토리에 배치하세요.
G2PWModel.zip(HF)| G2PWModel.zip(ModelScope) 에서 모델을 다운로드하고 압축을 풀어 G2PWModel로 이름을 변경한 후, GPT_SoVITS/text 디렉토리에 배치하세요. (중국어 TTS 전용)
UVR5 (보컬/반주 분리 & 잔향 제거 추가 기능)의 경우, UVR5 Weights 에서 모델을 다운로드하고 tools/uvr5/uvr5_weights 디렉토리에 배치하세요.
UVR5에서 bs_roformer 또는 mel_band_roformer 모델을 사용할 경우, 모델과 해당 설정 파일을 수동으로 다운로드하여 tools/UVR5/UVR5_weights 폴더에 저장할 수 있습니다. 모델 파일과 설정 파일의 이름은 확장자를 제외하고 동일한 이름을 가지도록 해야 합니다. 또한, 모델과 설정 파일 이름에는 **"roformer"**가 포함되어야 roformer 클래스의 모델로 인식됩니다.
모델 이름과 설정 파일 이름에 모델 유형을 직접 지정하는 것이 좋습니다. 예: mel_mand_roformer, bs_roformer. 지정하지 않으면 설정 파일을 기준으로 특성을 비교하여 어떤 유형의 모델인지를 판단합니다. 예를 들어, 모델 bs_roformer_ep_368_sdr_12.9628.ckpt와 해당 설정 파일 bs_roformer_ep_368_sdr_12.9628.yaml은 한 쌍입니다. kim_mel_band_roformer.ckpt와 kim_mel_band_roformer.yaml도 한 쌍입니다.
중국어 ASR (추가 기능)의 경우, Damo ASR Model, Damo VAD Model 및 Damo Punc Model 에서 모델을 다운로드하고, tools/asr/models 디렉토리에 배치하세요.
영어 또는 일본어 ASR (추가 기능)의 경우, Faster Whisper Large V3 에서 모델을 다운로드하고, tools/asr/models 디렉토리에 배치하세요. 또한, 다른 모델 은 더 적은 디스크 용량으로 비슷한 효과를 가질 수 있습니다.
텍스트 음성 합성(TTS) 주석 .list 파일 형식:
vocal_path|speaker_name|language|text
언어 사전:
예시:
D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.
go-webui.bat을 더블 클릭하거나 go-webui.ps1를 사용하십시오.
V1으로 전환하려면, go-webui-v1.bat을 더블 클릭하거나 go-webui-v1.ps1를 사용하십시오.
python webui.py <언어(옵션)>
V1으로 전환하려면,
python webui.py v1 <언어(옵션)>
또는 WebUI에서 수동으로 버전을 전환하십시오.
go-webui-v2.bat을 더블 클릭하거나 go-webui-v2.ps1를 사용한 다음 1-GPT-SoVITS-TTS/1C-inference에서 추론 webui를 엽니다.
python GPT_SoVITS/inference_webui.py <언어(옵션)>
또는
python webui.py
그런 다음 1-GPT-SoVITS-TTS/1C-inference에서 추론 webui를 엽니다.
새로운 기능:
한국어 및 광둥어 지원
최적화된 텍스트 프론트엔드
사전 학습 모델이 2천 시간에서 5천 시간으로 확장
저품질 참조 오디오에 대한 합성 품질 향상
V1 환경에서 V2를 사용하려면:
pip install -r requirements.txt를 사용하여 일부 패키지 업데이트
github에서 최신 코드를 클론하십시오.
huggingface에서 V2 사전 학습 모델을 다운로드하여 GPT_SoVITS/pretrained_models/gsv-v2final-pretrained에 넣으십시오.
중국어 V2 추가: G2PWModel.zip(HF)| G2PWModel.zip(ModelScope) (G2PW 모델을 다운로드하여 압축을 풀고 G2PWModel로 이름을 변경한 다음 GPT_SoVITS/text에 배치합니다.)
새로운 기능:
음색 유사성이 더 높아져 목표 음성에 대한 학습 데이터가 적게 필요합니다. (기본 모델을 직접 사용하여 미세 조정 없이 음색 유사성이 크게 향상됩니다.)
GPT 모델이 더 안정적이며 반복 및 생략이 적고, 더 풍부한 감정 표현을 가진 음성을 생성하기가 더 쉽습니다.
v2 환경에서 v3 사용하기:
pip install -r requirements.txt로 일부 패키지를 업데이트합니다.
최신 코드를 github 에서 클론합니다.
v3 사전 훈련된 모델(s1v3.ckpt, s2Gv3.pth, 그리고 models--nvidia--bigvgan_v2_24khz_100band_256x 폴더)을 huggingface에서 다운로드하여 GPT_SoVITS/pretrained_models 폴더에 넣습니다.
추가: 오디오 슈퍼 해상도 모델에 대해서는 다운로드 방법을 참고하세요.
신규 기능:
V1/V2/V3 환경에서 V4로 전환 방법:
일부 의존 패키지를 업데이트하기 위해 pip install -r requirements.txt 명령어를 실행하세요.
GitHub에서 최신 코드를 클론하세요.
huggingface에서 V4 사전 학습 모델(gsv-v4-pretrained/s2v4.ckpt 및 gsv-v4-pretrained/vocoder.pth)을 다운로드하고 GPT_SoVITS/pretrained_models 디렉토리에 넣으세요.
신규 기능:
V2보다 약간 높은 VRAM 사용량이지만 성능은 V4보다 우수하며, V2 수준의 하드웨어 비용과 속도를 유지합니다. 자세히 보기
V1/V2와 V2Pro 시리즈는 유사한 특징을 가지며, V3/V4도 비슷한 기능을 가지고 있습니다. 평균 음질이 낮은 학습 데이터셋에서는 V1/V2/V2Pro가 좋은 결과를 내지만 V3/V4는 그렇지 못합니다. 또한 V3/V4의 합성 음색은 전체 학습 데이터셋보다는 참고 음성에 더 가깝습니다.
V1/V2/V3/V4 환경에서 V2Pro로 전환 방법:
일부 의존 패키지를 업데이트하기 위해 pip install -r requirements.txt 명령어를 실행하세요.
GitHub에서 최신 코드를 클론하세요.
huggingface에서 V2Pro 사전 학습 모델(v2Pro/s2Dv2Pro.pth, v2Pro/s2Gv2Pro.pth, v2Pro/s2Dv2ProPlus.pth, v2Pro/s2Gv2ProPlus.pth, 및 sv/pretrained_eres2netv2w24s4ep4.ckpt)을 다운로드하고 GPT_SoVITS/pretrained_models 디렉토리에 넣으세요.
최우선순위:
기능:
명령줄을 사용하여 UVR5용 WebUI 열기
python tools/uvr5/webui.py "<infer_device>" <is_half> <webui_port_uvr5>
명령줄을 사용하여 데이터세트의 오디오 분할을 수행하는 방법은 다음과 같습니다.
python audio_slicer.py \
--input_path "<path_to_original_audio_file_or_directory>" \
--output_root "<directory_where_subdivided_audio_clips_will_be_saved>" \
--threshold <volume_threshold> \
--min_length <minimum_duration_of_each_subclip> \
--min_interval <shortest_time_gap_between_adjacent_subclips>
--hop_size <step_size_for_computing_volume_curve>
명령줄을 사용하여 데이터 세트 ASR 처리를 수행하는 방법입니다(중국어만 해당).
python tools/asr/funasr_asr.py -i <input> -o <output>
ASR 처리는 Faster_Whisper(중국어를 제외한 ASR 마킹)를 통해 수행됩니다.
(진행률 표시줄 없음, GPU 성능으로 인해 시간 지연이 발생할 수 있음)
python ./tools/asr/fasterwhisper_asr.py -i <input> -o <output> -l <language> -p <precision>
사용자 정의 목록 저장 경로가 활성화되었습니다.
다음 프로젝트와 기여자들에게 특별히 감사드립니다:
@Naozumi520 님께 감사드립니다. 광둥어 학습 자료를 제공해 주시고, 광둥어 관련 지식을 지도해 주셔서 감사합니다.
此处可能存在不合适展示的内容，页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容，可点击提交进行申诉，我们将尽快为您处理。
马建仓 AI 助手