السوق
قوالب جاهزة للتشغيل
يجمع كل قالب صورة وأمرًا ووحدة GPU تمت مراجعتها تحت اسم واحد. وجّهه إلى بياناتك وأرسله بمفتاحك. وتدفع مقابل وقت GPU الذي تستخدمه المهمة فقط، لا أكثر.
7 قوالب · الناشر: Unify Compute
batch-embedمتاحالتضمينات على دفعات باستخدام vLLM
يُنشئ تضمينات لملف دفعات بتنسيق OpenAI من طلبات /v1/embeddings باستخدام مشغّل الدفعات في vLLM، ويكتب سطر نتيجة واحدًا لكل طلب.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 1 h
batch-extract-sglangمتاحاستخراج منظَّم باستخدام SGLang
يشغّل ملف دفعات بتنسيق OpenAI من طلبات /v1/chat/completions (أو /v1/completions) عبر SGLang مع تقييد كل إجابة بمخطط JSON Schema واحد تقدّمه أنت، ويكتب سطر نتيجة واحدًا لكل طلب بالشكل نفسه الذي يستخدمه batch-infer-sglang.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 1 h
batch-infer-loraمتاحإكمالات المحادثة على دفعات باستخدام محوّل LoRA الخاص بك
يشغّل ملف دفعات بتنسيق OpenAI من طلبات /v1/chat/completions عبر vLLM مع تطبيق محوّل LoRA (مثل adapter.tar.gz الذي أنتجته مهمة finetune-lora)، ويكتب سطر نتيجة واحدًا لكل طلب، مثل batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 1 h
batch-infer-lora-sglangمتاحإكمالات المحادثة على دفعات باستخدام محوّل LoRA الخاص بك على SGLang
batch-infer-lora على SGLang: يشغّل ملف دفعات بتنسيق OpenAI من طلبات /v1/chat/completions (أو /v1/completions) مع تطبيق محوّل LoRA (مثل adapter.tar.gz الذي أنتجته مهمة finetune-lora)، ويكتب سطر نتيجة واحدًا لكل طلب، مع model = LORA_NAME.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 1 h
batch-infer-sglangمتاحإكمالات المحادثة على دفعات باستخدام SGLang
يشغّل ملف دفعات بتنسيق OpenAI من طلبات /v1/chat/completions (أو /v1/completions) عبر خادم SGLang يبدأ داخل المهمة، ويكتب سطر نتيجة واحدًا لكل طلب بالشكل نفسه الذي يستخدمه batch-infer-vllm.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 1 h
batch-infer-vllmمتاحإكمالات المحادثة على دفعات باستخدام vLLM
يشغّل ملف دفعات بتنسيق OpenAI من طلبات /v1/chat/completions عبر مشغّل الدفعات في vLLM، ويكتب سطر نتيجة واحدًا لكل طلب.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 1 h
finetune-loraمتاحضبط دقيق بتقنية LoRA مع التقييم
الضبط الدقيق المرجعي: خطوط أساس zero-shot و3-shot، وبوابة تتوقف إذا كان أداء few-shot جيدًا بما يكفي، وLoRA SFT باستخدام TRL وPEFT، وتقييم باستخدام المحوّل.
- GPU
- NVIDIA A10G · 24 GB
- مدة التشغيل الافتراضية
- 2 h
GPUs
اختر وحدة GPU المناسبة للمهمة
| GPU | الذاكرة | vCPU · RAM | الفئة | الفوترة | الحالة |
|---|---|---|---|---|---|
NVIDIA A10Ga10g-24gb-x1 | 24 GB | 4 · 16 GB | مزوّد سحابي ضخم | عند الطلب | متاح |
NVIDIA A100 80GBa100-80gb-x1-neo | 80 GB | 30 · 200 GB | سحابة ناشئة | عند الطلب | قريبًا |
NVIDIA A10Ga10g-24gb-x1-spot | 24 GB | 4 · 16 GB | مزوّد سحابي ضخم | فورية (Spot) | قريبًا |
NVIDIA L4l4-24gb-x1 | 24 GB | 4 · 16 GB | مزوّد سحابي ضخم | عند الطلب | قريبًا |
يتطلب تشغيل القالب حسابًا مفعَّلًا فيه تنفيذ مهام GPU. ويُفعَّل خلال فترة الإتاحة التدريجية لكل حساب على حدة؛ ويوضح دليل البدء السريع كيفية طلب ذلك.