beleata74/kani-tts-bg-refaudio-server-code

Bulgarian Ref-Audio KaniTTS Server Code

Това repo съдържа само server кода за локално ползване и изтегляне. Идеята е потребителят да може да го свали и да го пусне на собствена машина с GPU.

Какво има вътре

• server.py — FastAPI endpoint /v1/audio/speech
• config.py — конфигурация и model repo id
• audio/ — codec decode и reference audio encode логика
• generation/ — vLLM prompt/generation логика
• render_radio_play.py — оркестратор за дълги сценарии и радио пиеси
• test_rtf.py — еднократен RTF benchmark
• benchmark_rtf_warm.py — warm benchmark в един процес

Модел

По подразбиране кодът очаква публикувания модел:

• beleata74/kani-tts-400m-bg-voice-clone-ref5s

Можеш да override-неш това с env variable:

export KANITTS_MODEL_PATH=beleata74/kani-tts-400m-bg-voice-clone-ref5s

Бърз старт

git clone https://huggingface.co/datasets/beleata74/kani-tts-bg-refaudio-server-code
cd kani-tts-bg-refaudio-server-code
python -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
python server.py

После:

curl http://localhost:8000/health

Примерна заявка:

curl -X POST http://localhost:8000/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "input": "Това е тест на българския ref-audio сървър.",
    "reference_audio_path": "/path/to/reference.wav",
    "response_format": "wav"
  }' \
  --output speech.wav

Изисквания

• Linux
• NVIDIA GPU
• CUDA-съвместим PyTorch/vLLM setup
• ffmpeg

Бележка

Това е официалният downloadable code package за локално пускане на сървъра.