batch-infer-lora
Chat completions em lote com seu adaptador LoRA
Processa um arquivo de lote da OpenAI com requisições /v1/chat/completions no vLLM com um adaptador LoRA aplicado (por exemplo, o adapter.tar.gz gerado por um job finetune-lora) e grava uma linha de resultado por requisição, como o batch-infer-vllm. Modelo base padrão: Qwen3-4B-Instruct-2507 (Apache-2.0); o adaptador precisa ter sido treinado sobre a mesma base.
- Status
- Disponível
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - Tempo de execução padrão
- 1 h no máximo
- Publicador
- Unify Compute
O que ele lê e grava
Entrada /mnt/in | requests.jsonl: uma linha de lote da OpenAI por requisição, com url /v1/chat/completions; o campo model é ignorado e o adaptador se aplica a todas as linhas |
|---|---|
Entrada /mnt/adapter | adapter.tar.gz: um diretório de adaptador PEFT LoRA (adapter_config.json, adapter_model.safetensors), no formato que o finetune-lora grava |
Saída /mnt/out | results.jsonl: uma linha de resultado de lote da OpenAI por requisição, associada por custom_id, model = LORA_NAME |
O que você pode alterar
Um envio pode definir: GPU (SKU) (sku), Posicionamento na nuvem (providers), Variáveis de ambiente (spec.env), Tempo máximo de execução (spec.max_runtime_seconds). A imagem e as entradas e saídas declaradas são fixas: uma imagem diferente é um template diferente.
MODEL | Qwen/Qwen3-4B-Instruct-2507 |
|---|---|
MODEL_REVISION | cdbee75f17c01a7cc42f958dc650907174af0554 |
MAX_MODEL_LEN | 8192 |
MAX_LORA_RANK | 64 |
LORA_NAME | lora |
Execute
Com uma chave em $UNIFY_KEY (veja o guia de início rápido), informe para cada entrada uma URL https://, pública ou pré-assinada, que termine no nome de arquivo acima:
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "batch-infer-lora",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/requests.jsonl",
"mount": "/mnt/in"
},
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/adapter.tar.gz",
"mount": "/mnt/adapter"
}
]
}
}'O job é cobrado pelo tempo de GPU que usa, na tarifa do SKU, igual a um job que você mesmo escreve.
Durante a liberação, a execução de jobs em GPU é ativada conta a conta. Crie uma conta e depois peça a ativação, como descrito no guia de início rápido.
De onde vem a imagem
| Imagem | ghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04 |
|---|---|
| Digest | sha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1 |
| Licença | Apache-2.0 |
| Origem | ghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images) |
O que roda é o digest. Uma tag pode ser enviada de novo; um digest não, então o seu job baixa exatamente o que foi revisado.