01
批处理
从一千条记录到整个数据集。按你的时间表批量运行推理。
按需推理与 GPU 算力,服务聊天之外的一切工作。
批处理、嵌入、文档流水线、微调。围绕你运行的工作而构建,按用量计费。
01 / 你可以构建什么
为产品背后的任务,
也为让它持续运转的流水线。
从一千条记录到整个数据集。按你的时间表批量运行推理。
把非结构化数据转化为有用的向量,为搜索和检索打下基础。
抽取、分类并转换文档,变成你的应用可以直接使用的结构化数据。
带上你的数据,用恰好匹配任务的 GPU 算力,让模型适配你的领域。
02 / 计算模式
作业如何运行
作业使用你的密钥提交,按你的配额和余额进行检查,在 GPU 上启动并运行,完成后即释放。
选择一个模型,或带上你自己的任务。指定它所需的数据和资源。
平台旨在为任务调配 GPU 算力,并在完成后释放。
把结果带入你的应用,并跟踪所有任务的用量。
03 / 调度
每个 GPU SKU 都带有一个有序的云端部署列表和一个信任等级。作业会在第一个有容量的部署上启动,并且绝不会被降到更低的等级。
SKU 按顺序匹配其云端部署位置,作业在第一个有容量的位置上启动。
04 / 模板市场
模板把一个镜像、一条命令和一种 GPU 合为一个名称。每个模板上架前都经过审核。选一个,指向你的数据,再用你的密钥提交。
镜像、命令和 GPU 组成一个模板,模板经审核后上架,上架的模板作为你的作业运行。
05 / 按用量计费,无需承诺
我们的计费模式以用量为核心,让算力支出与实际工作负载相匹配,而不必提前预留容量。
运行任务。
使用算力。
按用量付费。
提交作业时,会在你的余额上冻结一笔金额。作业运行期间按 GPU 时间计量;结束时你只为实际用量付费,其余冻结金额随即释放。