Transformers documentation
Янв
Начало работы
Базовые классы
Модели
Предобработчики
Вывод
API конвейера
Generate API
Оптимизация
Чат с моделями
Развёртывание
Обучение
Начало работы
Настройка
Производительность
Распределённое обучение
Аппаратное обеспечение
Квантование
Интеграции с экосистемой
Ресурсы
API
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.2).
Янв
Jan — это альтернатива ChatGPT с открытым исходным кодом. Он нативно поддерживает transformers serve без дополнительного туннелирования.
Перейдите в Настройки > Провайдеры моделей.
- Установите значение Base URL как http://localhost:8000/v1.
- Введите любой текст в поле API Key (обязательно).
Откройте раздел Models (нажмите Refresh, если он пуст). Нажмите +, чтобы добавить конкретную модель, например Qwen/Qwen3-4B, или <repo>:<file>.gguf для модели в формате GGUF.
