finetune-lora
評価付き LoRA ファインチューニング
リファレンスのファインチューニングです:ゼロショットと 3 ショットのベースライン、few-shot で十分な場合に停止するゲート、TRL と PEFT による LoRA SFT、そしてアダプターを使った評価を行います。既定のベースモデルは Qwen3-4B-Instruct-2507(Apache-2.0)で、既定ではオンデマンドの A10G を使用します(カタログで販売が始まったら sku を a10g-24gb-x1-spot に上書きできます)。入力は finetune/prepare_data.py --archive で作成した data.tar.gz 1 つです。アダプターは adapter.tar.gz として返され、batch-infer-lora の入力として使えます。
- ステータス
- 利用可能
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - 既定の実行時間
- 最大 2 h
- 提供元
- Unify Compute
読み取るものと書き出すもの
入力 /mnt/in | finetune/prepare_data.py --archive で作成した data.tar.gz:train.jsonl、val.jsonl、test.jsonl、および任意の schema.json(SCHEMA が空の場合に使用)。ファイルは 1 つで、コマンドが展開します。 |
|---|---|
出力 /mnt/out | eval_zero_shot.json、eval_few_shot.json、eval_lora.json、adapter/ と adapter.tar.gz、timestamps.json、RESULT(completed または task_not_worth_finetuning) |
変更できる項目
送信時に設定できる項目:GPU(SKU) (sku)、クラウドの配置 (providers)、環境変数 (spec.env)、最大実行時間 (spec.max_runtime_seconds)。イメージと宣言済みの入力・出力は固定です。イメージが異なれば、別のテンプレートになります。
BASE_MODEL | Qwen/Qwen3-4B-Instruct-2507 |
|---|---|
FEW_SHOT_GATE | 0.95 |
SCHEMA | "" |
実行する
キーを $UNIFY_KEY に保存した状態で(クイックスタートを参照)、各入力に、上記のファイル名で終わる https:// の URL(公開 URL または署名付き URL)を指定します:
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "finetune-lora",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/data.tar.gz",
"mount": "/mnt/in"
}
]
}
}'ジョブは、ご自身で作成したジョブと同じく、使用した GPU 時間に SKU の料金を適用して課金されます。
イメージの出所
| イメージ | ghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04 |
|---|---|
| ダイジェスト | sha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1 |
| ライセンス | Apache-2.0 |
| ソース | ghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images) |
実行されるのはダイジェストです。タグは再プッシュできますが、ダイジェストはできません。そのため、ジョブが取得するのはレビュー済みのものです。