batch-embed
Embeddings par lots avec vLLM
Calcule les embeddings d’un fichier de lot OpenAI de requêtes /v1/embeddings avec l’exécuteur par lots de vLLM et écrit une ligne de résultat par requête. Modèle par défaut : Qwen3-Embedding-0.6B (Apache-2.0), téléchargé depuis Hugging Face au démarrage.
- Statut
- Disponible
- GPU
- NVIDIA A10G · 24 GB
a10g-24gb-x1 - Durée d’exécution par défaut
- 1 h maximum
- Éditeur
- Unify Compute
Ce qu’il lit et écrit
Entrée /mnt/in | Répertoire contenant requests.jsonl : une ligne de lot OpenAI par requête, avec l’url /v1/embeddings |
|---|---|
Sortie /mnt/out | results.jsonl : une ligne de résultat de lot OpenAI par requête, associée par custom_id |
Ce que vous pouvez modifier
Une soumission peut définir : GPU (SKU) (sku), Placement cloud (providers), Variables d’environnement (spec.env), Durée d’exécution maximale (spec.max_runtime_seconds). L’image ainsi que les entrées et sorties déclarées sont fixes : une autre image correspond à un autre modèle.
MODEL | Qwen/Qwen3-Embedding-0.6B |
|---|---|
MODEL_REVISION | 97b0c614be4d77ee51c0cef4e5f07c00f9eb65b3 |
Exécutez-le
Avec une clé dans $UNIFY_KEY (voir le guide de démarrage rapide), attribuez à chaque entrée une URL https://, publique ou présignée, qui se termine par le nom de fichier indiqué ci-dessus :
curl -s https://api.compute.unifyai.us/compute/v1/jobs \
-H "Authorization: Bearer $UNIFY_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "batch-embed",
"spec": {
"inputs": [
{
"source": "https://YOUR-BUCKET.s3.amazonaws.com/requests.jsonl",
"mount": "/mnt/in"
}
]
}
}'La tâche est facturée au temps GPU utilisé, au tarif du SKU, comme une tâche que vous écrivez vous-même.
Pendant le déploiement, l’exécution des tâches GPU est activée compte par compte. Créez un compte, puis demandez-nous de l’activer comme l’explique le guide de démarrage rapide.
Provenance de l’image
| Image | vllm/vllm-openai:v0.30.0-cu129 |
|---|---|
| Digest | sha256:a67f8f186d4567612ac37a55bd82295006002b18858eb12a8af2f05f86c2ae3f |
| Licence | Apache-2.0 |
| Source | https://hub.docker.com/r/vllm/vllm-openai (tag v0.30.0-cu129, pushed 2026-09-22; Dockerfile at github.com/vllm-project/vllm/blob/v0.30.0/docker/Dockerfile) |
C’est le digest qui s’exécute. Un tag peut être republié, pas un digest : votre tâche récupère exactement ce qui a été vérifié.