Marketplace
Plantillas listas para ejecutar
Cada plantilla reúne una imagen, un comando y una GPU revisados bajo un mismo nombre. Apúntela a sus datos y envíela con su clave. Paga el tiempo de GPU que usa el trabajo, nada más.
7 plantillas · publicadas por Unify Compute
batch-embedDisponibleEmbeddings por lotes con vLLM
Genera embeddings de un archivo de lote de OpenAI con solicitudes /v1/embeddings mediante el ejecutor por lotes de vLLM y escribe una línea de resultado por solicitud.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 1 h
batch-extract-sglangDisponibleExtracción estructurada con SGLang
Procesa un archivo de lote de OpenAI con solicitudes /v1/chat/completions (o /v1/completions) en SGLang, con cada respuesta restringida a un único JSON Schema que tú proporcionas, y escribe una línea de resultado por solicitud, con la misma forma que batch-infer-sglang.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 1 h
batch-infer-loraDisponibleCompletions de chat por lotes con su adaptador LoRA
Procesa un archivo de lote de OpenAI con solicitudes /v1/chat/completions en vLLM con un adaptador LoRA aplicado (por ejemplo, el adapter.tar.gz que produjo un trabajo finetune-lora) y escribe una línea de resultado por solicitud, como batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 1 h
batch-infer-lora-sglangDisponibleCompletions de chat por lotes con tu adaptador LoRA en SGLang
batch-infer-lora en SGLang: procesa un archivo de lote de OpenAI con solicitudes /v1/chat/completions (o /v1/completions) con un adaptador LoRA aplicado (por ejemplo, el adapter.tar.gz que produjo un trabajo finetune-lora) y escribe una línea de resultado por solicitud, con model = LORA_NAME.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 1 h
batch-infer-sglangDisponibleCompletions de chat por lotes con SGLang
Procesa un archivo de lote de OpenAI con solicitudes /v1/chat/completions (o /v1/completions) en un servidor SGLang iniciado dentro del trabajo y escribe una línea de resultado por solicitud, con la misma forma que batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 1 h
batch-infer-vllmDisponibleCompletions de chat por lotes con vLLM
Procesa un archivo de lote de OpenAI con solicitudes /v1/chat/completions mediante el ejecutor por lotes de vLLM y escribe una línea de resultado por solicitud.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 1 h
finetune-loraDisponibleAjuste fino LoRA con evaluación
El ajuste fino de referencia: líneas base zero-shot y 3-shot, un control que se detiene si few-shot ya es suficiente, LoRA SFT con TRL y PEFT, y una evaluación con el adaptador.
- GPU
- NVIDIA A10G · 24 GB
- Tiempo de ejecución predeterminado
- 2 h
GPUs
Elija la GPU para el trabajo
| GPU | Memoria | vCPU · RAM | Nivel | Facturación | Estado |
|---|---|---|---|---|---|
NVIDIA A10Ga10g-24gb-x1 | 24 GB | 4 · 16 GB | Hiperescalador | Bajo demanda | Disponible |
NVIDIA A100 80GBa100-80gb-x1-neo | 80 GB | 30 · 200 GB | Neocloud | Bajo demanda | Próximamente |
NVIDIA A10Ga10g-24gb-x1-spot | 24 GB | 4 · 16 GB | Hiperescalador | Spot | Próximamente |
NVIDIA L4l4-24gb-x1 | 24 GB | 4 · 16 GB | Hiperescalador | Bajo demanda | Próximamente |
Para ejecutar una plantilla necesita una cuenta con la ejecución de trabajos en GPU habilitada. Durante el despliegue se activa cuenta por cuenta; la guía de inicio rápido explica cómo solicitarlo.