Transformers documentation
Tháng 1
Bắt đầu
Lớp cơ sở
Mô hình
Bộ tiền xử lý
Suy luận
Pipeline API
Tạo API
Tối ưu hóa
Trò chuyện với các model
Serving
Huấn luyện
Phần cứng
Lượng tử hóa
Tích hợp hệ sinh thái
Tài nguyên
API
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.2).
Tháng 1
Jan là một giải pháp thay thế ChatGPT mã nguồn mở. Nó hỗ trợ transformers serve một cách bản địa mà không cần thêm lớp đường hầm.
Chuyển đến Cài đặt > Nhà cung cấp mô hình.
- Đặt Base URL thành http://localhost:8000/v1.
- Nhập bất kỳ văn bản nào vào API Key (bắt buộc).
Kiểm tra phần Models (nhấp vào Refresh nếu trống). Nhấp vào + để thêm một model cụ thể như Qwen/Qwen3-4B, hoặc <repo>:<file>.gguf cho một model GGUF.
