バッチ処理
1,000 件のレコードからデータセット全体まで。都合のよいタイミングで推論を一括実行できます。
チャットの先にあるあらゆる処理のための、オンデマンドの推論と GPU コンピュート。
バッチ処理、埋め込み、ドキュメントパイプライン、ファインチューニング。実行する処理を中心に設計され、料金は従量制です。
01 / 構築できるもの
プロダクトを支えるジョブのために。
そして、それを動かし続けるパイプラインのために。
1,000 件のレコードからデータセット全体まで。都合のよいタイミングで推論を一括実行できます。
非構造化データを有用なベクトルに変換し、検索と取得の基盤を構築します。
ドキュメントを抽出・分類・変換し、アプリケーションで使える構造化データにします。
データを持ち込み、ジョブに合った GPU コンピュートでモデルを自社の領域に適応させます。
02 / コンピュートモデル
ジョブの流れ
ジョブはキーで送信され、クォータと残高を確認したうえで GPU 上で起動・実行され、完了すると解放されます。
モデルを選ぶか、独自のジョブを持ち込みます。必要なデータとリソースを指定します。
プラットフォームは、タスクに応じて GPU コンピュートを用意し、完了後に解放するよう設計されています。
結果をアプリケーションに取り込み、ジョブ全体の使用量を把握できます。
03 / 配置
各 GPU SKU には、順序付きのクラウド配置リストと一つの信頼ティアがあります。ジョブは容量のある最初の配置で起動し、ティアが下げられることはありません。
SKU はクラウド配置と順番に照合され、容量のある最初の配置でジョブが起動します。
04 / マーケットプレイス
テンプレートは、イメージ・コマンド・GPU を一つの名前にまとめたものです。掲載前にすべて審査されます。選んでデータを指定し、キーで送信するだけです。
イメージ、コマンド、GPU が一つのテンプレートになり、審査を経て掲載され、掲載されたテンプレートがあなたのジョブとして実行されます。
05 / 確約ではなく従量制
料金体系は従量制を基本としているため、事前にキャパシティを予約することなく、コンピュートの支出を実際のワークロードに合わせられます。
ジョブを実行し、
コンピュートを使い、
使った分だけ支払う。
ジョブを送信すると、残高に一定額の確保(ホールド)がかかります。実行中は GPU 時間が計測され、終了時には使用した分だけを支払い、残りの確保分は解放されます。