Marketplace
Templates prontos para executar
Cada template reúne uma imagem, um comando e uma GPU revisados sob um mesmo nome. Aponte-o para seus dados e envie com sua chave. Você paga pelo tempo de GPU que o job usa, nada além disso.
7 templates · publicados por Unify Compute
batch-embedDisponívelEmbeddings em lote com vLLM
Gera embeddings de um arquivo de lote da OpenAI com requisições /v1/embeddings usando o executor em lote do vLLM e grava uma linha de resultado por requisição.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 1 h
batch-extract-sglangDisponívelExtração estruturada com SGLang
Processa um arquivo de lote da OpenAI com requisições /v1/chat/completions (ou /v1/completions) no SGLang, com cada resposta restrita a um único JSON Schema fornecido por você, e grava uma linha de resultado por requisição, no mesmo formato do batch-infer-sglang.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 1 h
batch-infer-loraDisponívelChat completions em lote com seu adaptador LoRA
Processa um arquivo de lote da OpenAI com requisições /v1/chat/completions no vLLM com um adaptador LoRA aplicado (por exemplo, o adapter.tar.gz gerado por um job finetune-lora) e grava uma linha de resultado por requisição, como o batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 1 h
batch-infer-lora-sglangDisponívelChat completions em lote com seu adaptador LoRA no SGLang
batch-infer-lora no SGLang: processa um arquivo de lote da OpenAI com requisições /v1/chat/completions (ou /v1/completions) com um adaptador LoRA aplicado (por exemplo, o adapter.tar.gz gerado por um job finetune-lora) e grava uma linha de resultado por requisição, com model = LORA_NAME.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 1 h
batch-infer-sglangDisponívelChat completions em lote com SGLang
Processa um arquivo de lote da OpenAI com requisições /v1/chat/completions (ou /v1/completions) em um servidor SGLang iniciado dentro do job e grava uma linha de resultado por requisição, no mesmo formato do batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 1 h
batch-infer-vllmDisponívelChat completions em lote com vLLM
Processa um arquivo de lote da OpenAI com requisições /v1/chat/completions usando o executor em lote do vLLM e grava uma linha de resultado por requisição.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 1 h
finetune-loraDisponívelFine-tuning LoRA com avaliação
O fine-tuning de referência: linhas de base zero-shot e 3-shot, uma verificação que interrompe se o few-shot já for suficiente, LoRA SFT com TRL e PEFT e uma avaliação com o adaptador.
- GPU
- NVIDIA A10G · 24 GB
- Tempo de execução padrão
- 2 h
GPUs
Escolha a GPU para o trabalho
| GPU | Memória | vCPU · RAM | Nível | Cobrança | Status |
|---|---|---|---|---|---|
NVIDIA A10Ga10g-24gb-x1 | 24 GB | 4 · 16 GB | Hiperescalador | Sob demanda | Disponível |
NVIDIA A100 80GBa100-80gb-x1-neo | 80 GB | 30 · 200 GB | Neocloud | Sob demanda | Em breve |
NVIDIA A10Ga10g-24gb-x1-spot | 24 GB | 4 · 16 GB | Hiperescalador | Spot | Em breve |
NVIDIA L4l4-24gb-x1 | 24 GB | 4 · 16 GB | Hiperescalador | Sob demanda | Em breve |
Para executar um template, é preciso uma conta com a execução de jobs em GPU habilitada. Durante a liberação, ela é ativada conta a conta; o guia de início rápido explica como pedir.