Transformers documentation

Янв

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.2).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Янв

Jan — это альтернатива ChatGPT с открытым исходным кодом. Он нативно поддерживает transformers serve без дополнительного туннелирования.

Перейдите в Настройки > Провайдеры моделей.

  1. Установите значение Base URL как http://localhost:8000/v1.
  2. Введите любой текст в поле API Key (обязательно).

Откройте раздел Models (нажмите Refresh, если он пуст). Нажмите +, чтобы добавить конкретную модель, например Qwen/Qwen3-4B, или <repo>:<file>.gguf для модели в формате GGUF.

Update on GitHub