batch-extract-sglang
SGLang による構造化抽出
/v1/chat/completions(または /v1/completions)リクエストからなる OpenAI バッチファイルを SGLang で処理し、すべての回答を指定した 1 つの JSON Schema に従わせて、batch-infer-sglang と同じ形式でリクエストごとに 1 行の結果を書き出します。デコードは文法に誘導されるため、先に max_tokens に達しない限り、各回答はパースでき、スキーマに一致します。パースできた件数はログに出力されます。既定のモデルは Qwen3-4B-Instruct-2507(Apache-2.0)で、起動時に Hugging Face からダウンロードされます。
- ステータス
- 利用可能
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - 既定の実行時間
- 最大 1 h
- 提供元
- Unify Compute
読み取るものと書き出すもの
入力 /mnt/in | requests.jsonl を含むディレクトリ:リクエストごとに 1 行の OpenAI バッチ行(url は /v1/chat/completions または /v1/completions)。model フィールドは MODEL に、response_format はスキーマに置き換えられます |
|---|---|
入力 /mnt/schema | schema.json:すべての回答が一致すべき JSON Schema |
出力 /mnt/out | results.jsonl:リクエストごとに 1 行の OpenAI バッチ結果(入力順、custom_id で対応付け)。各回答の内容は schema.json に一致する JSON ドキュメントです |
変更できる項目
送信時に設定できる項目:GPU(SKU) (sku)、クラウドの配置 (providers)、環境変数 (spec.env)、最大実行時間 (spec.max_runtime_seconds)。イメージと宣言済みの入力・出力は固定です。イメージが異なれば、別のテンプレートになります。
MODEL | Qwen/Qwen3-4B-Instruct-2507 |
|---|---|
MODEL_REVISION | cdbee75f17c01a7cc42f958dc650907174af0554 |
MAX_MODEL_LEN | 8192 |
CONCURRENCY | 64 |
実行する
キーを $UNIFY_KEY に保存した状態で(クイックスタートを参照)、各入力に、上記のファイル名で終わる https:// の URL(公開 URL または署名付き URL)を指定します:
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "batch-extract-sglang",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/requests.jsonl",
"mount": "/mnt/in"
},
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/schema.json",
"mount": "/mnt/schema"
}
]
}
}'ジョブは、ご自身で作成したジョブと同じく、使用した GPU 時間に SKU の料金を適用して課金されます。
イメージの出所
| イメージ | lmsysorg/sglang:v0.5.19-cu129-runtime |
|---|---|
| ダイジェスト | sha256:fe08f6f52bea380415792849a703d92279c86320f8c39283bcd04043f8b63c41 |
| ライセンス | Apache-2.0 |
| ソース | https://hub.docker.com/r/lmsysorg/sglang (tag v0.5.19-cu129-runtime, pushed 2026-09-04, the newest CUDA 12.9 build; multi-arch index read from registry-1.docker.io on 2026-11-06; LICENSE at github.com/sgl-project/sglang/blob/v0.5.19/LICENSE) |
実行されるのはダイジェストです。タグは再プッシュできますが、ダイジェストはできません。そのため、ジョブが取得するのはレビュー済みのものです。