01
批次處理
從一千筆紀錄到整個資料集。依你的時程大量執行推論。
隨需推論與 GPU 運算,服務聊天以外的一切工作。
批次處理、嵌入向量、文件管線、微調。圍繞你執行的工作而打造,依用量計費。
01 / 你可以打造什麼
為產品背後的工作,
也為讓它持續運轉的管線。
從一千筆紀錄到整個資料集。依你的時程大量執行推論。
將非結構化資料轉為實用的向量,為搜尋和檢索奠定基礎。
擷取、分類並轉換文件,成為你的應用程式可以直接使用的結構化資料。
帶上你的資料,用恰好符合工作需求的 GPU 運算資源,讓模型適應你的領域。
02 / 運算模式
作業如何執行
作業以你的金鑰提交,依你的配額與餘額進行檢查,在 GPU 上啟動並執行,完成後即釋放。
選擇一個模型,或帶上你自己的工作。指定它需要的資料和資源。
平台的設計是為工作佈建 GPU 運算資源,並在完成後釋放。
將結果帶進你的應用程式,並追蹤所有工作的用量。
03 / 調度
每個 GPU SKU 都帶有一份有序的雲端部署清單與一個信任等級。作業會在第一個有容量的部署上啟動,且絕不會被降到較低的等級。
SKU 依順序比對其雲端部署位置,作業在第一個有容量的位置上啟動。
04 / 範本市集
範本把一個映像檔、一條指令和一種 GPU 合為一個名稱。每個範本上架前都經過審核。選一個,指向你的資料,再用你的金鑰提交。
映像檔、指令與 GPU 組成一個範本,範本經審核後上架,上架的範本作為你的作業執行。
05 / 依用量計費,無需承諾
我們的計費模式以用量為核心,讓運算支出與實際工作負載相符,而不必事先預留容量。
執行工作。
使用運算資源。
依用量付費。
提交作業時,會在你的餘額上圈存一筆金額。作業執行期間依 GPU 時間計量;結束時你只為實際用量付費,其餘圈存金額隨即釋放。