batch-extract-sglang
Extracción estructurada con SGLang
Procesa un archivo de lote de OpenAI con solicitudes /v1/chat/completions (o /v1/completions) en SGLang, con cada respuesta restringida a un único JSON Schema que tú proporcionas, y escribe una línea de resultado por solicitud, con la misma forma que batch-infer-sglang. La decodificación está guiada por gramática, así que cada respuesta se puede analizar y cumple el esquema salvo que antes llegue a max_tokens; el registro indica cuántas se pueden analizar. Modelo predeterminado: Qwen3-4B-Instruct-2507 (Apache-2.0), descargado de Hugging Face al iniciar.
- Estado
- Disponible
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - Tiempo de ejecución predeterminado
- 1 h como máximo
- Editor
- Unify Compute
Qué lee y qué escribe
Entrada /mnt/in | Directorio que contiene requests.jsonl: una línea de lote de OpenAI por solicitud, con url /v1/chat/completions o /v1/completions; el campo model se sustituye por MODEL y cualquier response_format por el esquema |
|---|---|
Entrada /mnt/schema | schema.json: el JSON Schema que debe cumplir cada respuesta |
Salida /mnt/out | results.jsonl: una línea de resultado de lote de OpenAI por solicitud, en el orden de entrada, asociada por custom_id; el contenido de cada respuesta es un documento JSON que cumple schema.json |
Qué puede cambiar
Un envío puede definir: GPU (SKU) (sku), Ubicación en la nube (providers), Variables de entorno (spec.env), Tiempo máximo de ejecución (spec.max_runtime_seconds). La imagen y las entradas y salidas declaradas son fijas: una imagen distinta es una plantilla distinta.
MODEL | Qwen/Qwen3-4B-Instruct-2507 |
|---|---|
MODEL_REVISION | cdbee75f17c01a7cc42f958dc650907174af0554 |
MAX_MODEL_LEN | 8192 |
CONCURRENCY | 64 |
Ejecútela
Con una clave en $UNIFY_KEY (consulte la guía de inicio rápido), asigne a cada entrada una URL https://, pública o prefirmada, que termine en el nombre de archivo indicado arriba:
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "batch-extract-sglang",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/requests.jsonl",
"mount": "/mnt/in"
},
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/schema.json",
"mount": "/mnt/schema"
}
]
}
}'El trabajo se factura por el tiempo de GPU que usa, a la tarifa del SKU, igual que un trabajo que escriba usted mismo.
Durante el despliegue, la ejecución de trabajos en GPU se activa cuenta por cuenta. Cree una cuenta y luego solicite que la habilitemos, como se explica en la guía de inicio rápido.
De dónde proviene la imagen
| Imagen | lmsysorg/sglang:v0.5.19-cu129-runtime |
|---|---|
| Digest | sha256:fe08f6f52bea380415792849a703d92279c86320f8c39283bcd04043f8b63c41 |
| Licencia | Apache-2.0 |
| Origen | https://hub.docker.com/r/lmsysorg/sglang (tag v0.5.19-cu129-runtime, pushed 2026-09-04, the newest CUDA 12.9 build; multi-arch index read from registry-1.docker.io on 2026-11-06; LICENSE at github.com/sgl-project/sglang/blob/v0.5.19/LICENSE) |
Lo que se ejecuta es el digest. Una etiqueta puede volver a publicarse; un digest no, así que su trabajo descarga exactamente lo que se revisó.