Marketplace
Des modèles prêts à l’emploi
Chaque modèle réunit sous un même nom une image, une commande et un GPU vérifiés. Pointez-le vers vos données et soumettez-le avec votre clé. Vous ne payez que le temps GPU utilisé par la tâche.
7 modèles · publiés par Unify Compute
batch-embedDisponibleEmbeddings par lots avec vLLM
Calcule les embeddings d’un fichier de lot OpenAI de requêtes /v1/embeddings avec l’exécuteur par lots de vLLM et écrit une ligne de résultat par requête.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 1 h
batch-extract-sglangDisponibleExtraction structurée avec SGLang
Traite un fichier de lot OpenAI de requêtes /v1/chat/completions (ou /v1/completions) avec SGLang en contraignant chaque réponse à un même JSON Schema que vous fournissez, et écrit une ligne de résultat par requête, au même format que batch-infer-sglang.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 1 h
batch-infer-loraDisponibleComplétions de chat par lots avec votre adaptateur LoRA
Traite un fichier de lot OpenAI de requêtes /v1/chat/completions avec vLLM en appliquant un adaptateur LoRA (par exemple l’adapter.tar.gz produit par une tâche finetune-lora) et écrit une ligne de résultat par requête, comme batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 1 h
batch-infer-lora-sglangDisponibleComplétions de chat par lots avec votre adaptateur LoRA sur SGLang
batch-infer-lora sur SGLang : traite un fichier de lot OpenAI de requêtes /v1/chat/completions (ou /v1/completions) en appliquant un adaptateur LoRA (par exemple l’adapter.tar.gz produit par une tâche finetune-lora) et écrit une ligne de résultat par requête, avec model = LORA_NAME.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 1 h
batch-infer-sglangDisponibleComplétions de chat par lots avec SGLang
Traite un fichier de lot OpenAI de requêtes /v1/chat/completions (ou /v1/completions) avec un serveur SGLang démarré dans la tâche et écrit une ligne de résultat par requête, au même format que batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 1 h
batch-infer-vllmDisponibleComplétions de chat par lots avec vLLM
Traite un fichier de lot OpenAI de requêtes /v1/chat/completions avec l’exécuteur par lots de vLLM et écrit une ligne de résultat par requête.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 1 h
finetune-loraDisponibleFine-tuning LoRA avec évaluation
Le fine-tuning de référence : des références zero-shot et 3-shot, un contrôle qui s’arrête si le few-shot suffit déjà, un LoRA SFT avec TRL et PEFT, et une évaluation avec l’adaptateur.
- GPU
- NVIDIA A10G · 24 GB
- Durée d’exécution par défaut
- 2 h
GPUs
Choisissez le GPU adapté à la tâche
| GPU | Mémoire | vCPU · RAM | Niveau | Facturation | Statut |
|---|---|---|---|---|---|
NVIDIA A10Ga10g-24gb-x1 | 24 GB | 4 · 16 GB | Hyperscaler | À la demande | Disponible |
NVIDIA A100 80GBa100-80gb-x1-neo | 80 GB | 30 · 200 GB | Néocloud | À la demande | Bientôt disponible |
NVIDIA A10Ga10g-24gb-x1-spot | 24 GB | 4 · 16 GB | Hyperscaler | Spot | Bientôt disponible |
NVIDIA L4l4-24gb-x1 | 24 GB | 4 · 16 GB | Hyperscaler | À la demande | Bientôt disponible |
Pour exécuter un modèle, il faut un compte où l’exécution des tâches GPU est activée. Pendant le déploiement, elle est activée compte par compte ; le guide de démarrage rapide explique comment la demander.