所有範本

finetune-lora

含評估的 LoRA 微調

參考微調流程:零樣本與 3 樣本基準;若少樣本效果已足夠便停止的關卡;使用 TRL 和 PEFT 的 LoRA SFT;以及搭配轉接器的評估。預設基礎模型為 Qwen3-4B-Instruct-2507(Apache-2.0);預設使用隨需 A10G(目錄開賣後可將 sku 覆寫為 a10g-24gb-x1-spot)。輸入是由 finetune/prepare_data.py --archive 產生的一個 data.tar.gz;轉接器會以 adapter.tar.gz 傳回,可作為 batch-infer-lora 的輸入。

狀態
可用
GPU
NVIDIA A10G · 24 GB a10g-24gb-x1
預設執行時間
最長 2 h
發布者
Unify Compute

讀取和寫入的內容

輸入 /mnt/in由 finetune/prepare_data.py --archive 產生的 data.tar.gz:train.jsonl、val.jsonl、test.jsonl,以及選用的 schema.json(SCHEMA 為空時使用)。只需一個檔案,指令會自動解開。
輸出 /mnt/outeval_zero_shot.json、eval_few_shot.json、eval_lora.json、adapter/ 和 adapter.tar.gz、timestamps.json 以及 RESULT(completed 或 task_not_worth_finetuning)

可以變更的內容

提交時可以設定:GPU(SKU) (sku)、雲端部署位置 (providers)、環境變數 (spec.env)、最長執行時間 (spec.max_runtime_seconds)。映像檔以及宣告的輸入和輸出是固定的:換一個映像檔就是另一個範本。

環境變數預設值
BASE_MODELQwen/Qwen3-4B-Instruct-2507
FEW_SHOT_GATE0.95
SCHEMA""

執行

將金鑰存放在 $UNIFY_KEY 中(請參閱快速入門),為每個輸入提供一個 https:// URL(公開或預先簽署皆可),並以上方列出的檔名結尾:

curl -s https://api.compute.unifyai.us/compute/v1/jobs \
  -H "Authorization: Bearer $UNIFY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "template": "finetune-lora",
  "spec": {
    "inputs": [
      {
        "source": "https://YOUR-BUCKET.s3.amazonaws.com/data.tar.gz",
        "mount": "/mnt/in"
      }
    ]
  }
}'

工作依其使用的 GPU 時間、以該 SKU 的費率計費,與你自己撰寫的工作相同。

搶先體驗

在逐步開放期間,GPU 工作執行依帳號開通。請先建立帳號,再依快速入門的說明請我們為你開通。

映像檔來源

映像檔ghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04
摘要值sha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1
授權Apache-2.0
來源ghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images)

實際執行的是摘要值。標籤可以重新推送,摘要值不行,因此你的工作拉取的正是經過審查的版本。