Название модели: Rakshinrules/Raksh
Описание
Эта модель предназначена для выполнения задач генерации текста на русском языке. Она разработана с использованием предобученной модели Hugging Face и оптимизирована для работы с текстами средней длины.
Задачи
- text-generation: Генерация текста на основе заданного промпта.
Примеры использования
from transformers import pipeline
generator = pipeline("text-generation", model="Rakshinrules/Raksh")
response = generator("Пример запроса", max_length=100, num_return_sequences=1)
print(response)
Model tree for Rakshinrules/Raksh
Base model
google-t5/t5-base
Install from pip and serve model
# Install vLLM from pip: pip install vllm# Start the vLLM server: vllm serve "Rakshinrules/Raksh"# Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Rakshinrules/Raksh", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'