finetune-lora
Fine-tuning LoRA avec évaluation
Le fine-tuning de référence : des références zero-shot et 3-shot, un contrôle qui s’arrête si le few-shot suffit déjà, un LoRA SFT avec TRL et PEFT, et une évaluation avec l’adaptateur. Modèle de base par défaut : Qwen3-4B-Instruct-2507 (Apache-2.0) ; A10G à la demande par défaut (remplacez sku par a10g-24gb-x1-spot dès que le catalogue le propose). L’entrée est un unique data.tar.gz produit par finetune/prepare_data.py --archive ; l’adaptateur est renvoyé sous forme d’adapter.tar.gz, que batch-infer-lora accepte en entrée.
- Statut
- Disponible
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - Durée d’exécution par défaut
- 2 h maximum
- Éditeur
- Unify Compute
Ce qu’il lit et écrit
Entrée /mnt/in | data.tar.gz produit par finetune/prepare_data.py --archive : train.jsonl, val.jsonl, test.jsonl et, en option, schema.json (utilisé lorsque SCHEMA est vide). Un seul fichier ; la commande le décompresse. |
|---|---|
Sortie /mnt/out | eval_zero_shot.json, eval_few_shot.json, eval_lora.json, adapter/ et adapter.tar.gz, timestamps.json et RESULT (completed ou task_not_worth_finetuning) |
Ce que vous pouvez modifier
Une soumission peut définir : GPU (SKU) (sku), Placement cloud (providers), Variables d’environnement (spec.env), Durée d’exécution maximale (spec.max_runtime_seconds). L’image ainsi que les entrées et sorties déclarées sont fixes : une autre image correspond à un autre modèle.
BASE_MODEL | Qwen/Qwen3-4B-Instruct-2507 |
|---|---|
FEW_SHOT_GATE | 0.95 |
SCHEMA | "" |
Exécutez-le
Avec une clé dans $UNIFY_KEY (voir le guide de démarrage rapide), attribuez à chaque entrée une URL https://, publique ou présignée, qui se termine par le nom de fichier indiqué ci-dessus :
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "finetune-lora",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/data.tar.gz",
"mount": "/mnt/in"
}
]
}
}'La tâche est facturée au temps GPU utilisé, au tarif du SKU, comme une tâche que vous écrivez vous-même.
Pendant le déploiement, l’exécution des tâches GPU est activée compte par compte. Créez un compte, puis demandez-nous de l’activer comme l’explique le guide de démarrage rapide.
Provenance de l’image
| Image | ghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04 |
|---|---|
| Digest | sha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1 |
| Licence | Apache-2.0 |
| Source | ghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images) |
C’est le digest qui s’exécute. Un tag peut être republié, pas un digest : votre tâche récupère exactement ce qui a été vérifié.