Alle Vorlagen

finetune-lora

LoRA-Fine-Tuning mit Evaluierung

Das Referenz-Fine-Tuning: Zero-Shot- und 3-Shot-Baselines, ein Gate, das abbricht, wenn Few-Shot bereits gut genug ist, LoRA-SFT mit TRL und PEFT sowie eine Evaluierung mit dem Adapter. Standard-Basismodell Qwen3-4B-Instruct-2507 (Apache-2.0); standardmäßig On-Demand-A10G (überschreiben Sie sku mit a10g-24gb-x1-spot, sobald der Katalog sie anbietet). Eingabe ist ein einzelnes data.tar.gz aus finetune/prepare_data.py --archive; der Adapter kommt als adapter.tar.gz zurück, das batch-infer-lora als Eingabe verwendet.

Status
Verfügbar
GPU
NVIDIA A10G · 24 GB a10g-24gb-x1
Standardlaufzeit
maximal 2 h
Herausgeber
Unify Compute

Was gelesen und geschrieben wird

Eingabe /mnt/indata.tar.gz aus finetune/prepare_data.py --archive: train.jsonl, val.jsonl, test.jsonl und optional schema.json (wird verwendet, wenn SCHEMA leer ist). Eine Datei; der Befehl entpackt sie.
Ausgabe /mnt/outeval_zero_shot.json, eval_few_shot.json, eval_lora.json, adapter/ und adapter.tar.gz, timestamps.json und RESULT (completed oder task_not_worth_finetuning)

Was Sie ändern können

Beim Einreichen lässt sich Folgendes festlegen: GPU (SKU) (sku), Cloud-Platzierung (providers), Umgebungsvariablen (spec.env), Maximale Laufzeit (spec.max_runtime_seconds). Das Image sowie die deklarierten Ein- und Ausgaben sind fest: Ein anderes Image ist eine andere Vorlage.

Standardwerte der Umgebung
BASE_MODELQwen/Qwen3-4B-Instruct-2507
FEW_SHOT_GATE0.95
SCHEMA""

Ausführen

Mit einem Schlüssel in $UNIFY_KEY (siehe Schnellstart) geben Sie jeder Eingabe eine öffentliche oder vorsignierte https://-URL, die auf den oben genannten Dateinamen endet:

curl -s https://api.compute.unifyai.us/compute/v1/jobs \
  -H "Authorization: Bearer $UNIFY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "template": "finetune-lora",
  "spec": {
    "inputs": [
      {
        "source": "https://YOUR-BUCKET.s3.amazonaws.com/data.tar.gz",
        "mount": "/mnt/in"
      }
    ]
  }
}'

Der Job wird nach der genutzten GPU-Zeit zum Tarif der SKU abgerechnet, genau wie ein Job, den Sie selbst schreiben.

Early Access

Während der Einführung wird die GPU-Job-Ausführung pro Konto freigeschaltet. Legen Sie ein Konto an und bitten Sie uns dann um die Freischaltung, wie im Schnellstart beschrieben.

Herkunft des Images

Imageghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04
Digestsha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1
LizenzApache-2.0
Quelleghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images)

Ausgeführt wird der Digest. Ein Tag kann neu gepusht werden, ein Digest nicht. Ihr Job lädt also genau das, was geprüft wurde.