Tất cả mẫu

finetune-lora

Tinh chỉnh LoRA kèm đánh giá

Quy trình tinh chỉnh tham chiếu: đường cơ sở zero-shot và 3-shot, một bước kiểm tra sẽ dừng nếu few-shot đã đủ tốt, LoRA SFT với TRL và PEFT, và một bước đánh giá với adapter. Mô hình nền mặc định là Qwen3-4B-Instruct-2507 (Apache-2.0); mặc định dùng A10G theo nhu cầu (ghi đè sku thành a10g-24gb-x1-spot khi danh mục bắt đầu cung cấp). Đầu vào là một tệp data.tar.gz từ finetune/prepare_data.py --archive; adapter được trả về dưới dạng adapter.tar.gz, là đầu vào của batch-infer-lora.

Trạng thái
Sẵn có
GPU
NVIDIA A10G · 24 GB a10g-24gb-x1
Thời gian chạy mặc định
Tối đa 2 h
Nhà phát hành
Unify Compute

Dữ liệu đọc và ghi

Đầu vào /mnt/indata.tar.gz từ finetune/prepare_data.py --archive: train.jsonl, val.jsonl, test.jsonl và tùy chọn schema.json (dùng khi SCHEMA để trống). Chỉ một tệp; lệnh sẽ tự giải nén.
Đầu ra /mnt/outeval_zero_shot.json, eval_few_shot.json, eval_lora.json, adapter/ và adapter.tar.gz, timestamps.json và RESULT (completed hoặc task_not_worth_finetuning)

Những gì bạn có thể thay đổi

Khi gửi, bạn có thể đặt: GPU (SKU) (sku), Vị trí đám mây (providers), Biến môi trường (spec.env), Thời gian chạy tối đa (spec.max_runtime_seconds). Image cùng các đầu vào và đầu ra đã khai báo là cố định: image khác là một mẫu khác.

Giá trị môi trường mặc định
BASE_MODELQwen/Qwen3-4B-Instruct-2507
FEW_SHOT_GATE0.95
SCHEMA""

Chạy mẫu

Với khóa đã lưu trong $UNIFY_KEY (xem bắt đầu nhanh), hãy cung cấp cho mỗi đầu vào một URL https://, công khai hoặc đã ký trước, kết thúc bằng tên tệp nêu ở trên:

curl -s https://api.compute.unifyai.us/compute/v1/jobs \
  -H "Authorization: Bearer $UNIFY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "template": "finetune-lora",
  "spec": {
    "inputs": [
      {
        "source": "https://YOUR-BUCKET.s3.amazonaws.com/data.tar.gz",
        "mount": "/mnt/in"
      }
    ]
  }
}'

Tác vụ được tính phí theo thời gian GPU sử dụng với mức giá của SKU, giống như một tác vụ bạn tự viết.

Truy cập sớm

Trong giai đoạn mở dần, tính năng thực thi tác vụ GPU được bật theo từng tài khoản. Tạo tài khoản, sau đó đề nghị chúng tôi bật tính năng này như hướng dẫn trong bắt đầu nhanh.

Nguồn gốc của image

Imageghcr.io/felixsphere/unify-compute-finetune:finetune-2026-10-04
Digestsha256:6d426175dcd0e2443df6da9cf68e96c079abe5a8b80d9f488d09019536272ac1
Giấy phépApache-2.0
Nguồnghcr.io/felixsphere/unify-compute-finetune, built by publish-image.yml run 37266527011 from main 150de552 (finetune/Dockerfile on vllm/vllm-openai:v0.30.0-cu129@sha256:a67f8f18…, Apache-2.0; adds TRL 1.14.1, PEFT 0.21.2, datasets 5.0.1, accelerate 1.15.0, jsonschema 4.26.0 and torchvision 0.29.0+cu130, removes torchaudio; linux/amd64 only; licences in THIRD-PARTY-LICENSES.md, Workload images)

Thứ được chạy là digest. Tag có thể bị đẩy lại, còn digest thì không, nên tác vụ của bạn kéo về đúng phiên bản đã được duyệt.