finetune-lora
Ajuste fino LoRA con evaluación
El ajuste fino de referencia: líneas base zero-shot y 3-shot, un control que se detiene si few-shot ya es suficiente, LoRA SFT con TRL y PEFT, y una evaluación con el adaptador. Modelo base predeterminado: Qwen3-4B-Instruct-2507 (Apache-2.0); A10G bajo demanda de forma predeterminada (cambie sku a a10g-24gb-x1-spot cuando el catálogo lo ofrezca). La entrada es un único data.tar.gz generado con finetune/prepare_data.py --archive; el adaptador se devuelve como adapter.tar.gz, que batch-infer-lora acepta como entrada.
- Estado
- Disponible
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - Tiempo de ejecución predeterminado
- 2 h como máximo
- Editor
- Unify Compute
Qué lee y qué escribe
Entrada /mnt/in | data.tar.gz generado con finetune/prepare_data.py --archive: train.jsonl, val.jsonl, test.jsonl y, opcionalmente, schema.json (se usa cuando SCHEMA está vacío). Un solo archivo; el comando lo descomprime. |
|---|---|
Salida /mnt/out | eval_zero_shot.json, eval_few_shot.json, eval_lora.json, adapter/ y adapter.tar.gz, timestamps.json y RESULT (completed o task_not_worth_finetuning) |
Qué puede cambiar
Un envío puede definir: GPU (SKU) (sku), Ubicación en la nube (providers), Variables de entorno (spec.env), Tiempo máximo de ejecución (spec.max_runtime_seconds). La imagen y las entradas y salidas declaradas son fijas: una imagen distinta es una plantilla distinta.
BASE_MODEL | Qwen/Qwen3-4B-Instruct-2507 |
|---|---|
FEW_SHOT_GATE | 0.95 |
SCHEMA | "" |
Ejecútela
Con una clave en $UNIFY_KEY (consulte la guía de inicio rápido), asigne a cada entrada una URL https://, pública o prefirmada, que termine en el nombre de archivo indicado arriba:
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "finetune-lora",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/data.tar.gz",
"mount": "/mnt/in"
}
]
}
}'El trabajo se factura por el tiempo de GPU que usa, a la tarifa del SKU, igual que un trabajo que escriba usted mismo.
Durante el despliegue, la ejecución de trabajos en GPU se activa cuenta por cuenta. Cree una cuenta y luego solicite que la habilitemos, como se explica en la guía de inicio rápido.
De dónde proviene la imagen
| Imagen | ghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04 |
|---|---|
| Digest | sha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1 |
| Licencia | Apache-2.0 |
| Origen | ghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images) |
Lo que se ejecuta es el digest. Una etiqueta puede volver a publicarse; un digest no, así que su trabajo descarga exactamente lo que se revisó.