/** * CreateModelService请求参数结构体 */ export interface CreateModelServiceRequest { /** *

新增版本时需要填写

*/ ServiceGroupId?: string; /** *

不超过60个字，仅支持英文、数字、下划线"_"、短横"-"，只能以英文、数字开头

*/ ServiceGroupName?: string; /** *

模型服务的描述

*/ ServiceDescription?: string; /** *

付费模式,有 PREPAID （包年包月）和 POSTPAID_BY_HOUR（按量付费）

*/ ChargeType?: string; /** *

预付费模式下所属的资源组id，同服务组下唯一

*/ ResourceGroupId?: string; /** *

模型信息，需要挂载模型时填写

*/ ModelInfo?: ModelInfo; /** *

镜像信息，配置服务运行所需的镜像地址等信息

*/ ImageInfo?: ImageInfo; /** *

环境变量，可选参数，用于配置容器中的环境变量

*/ Env?: Array; /** *

资源描述，指定包年包月模式下的cpu,mem,gpu等信息，后付费无需填写

*/ Resources?: ResourceInfo; /** *

使用DescribeBillingSpecs接口返回的规格列表中的值，或者参考实例列表:
TI.S.MEDIUM.POST 2C4G
TI.S.LARGE.POST 4C8G
TI.S.2XLARGE16.POST 8C16G
TI.S.2XLARGE32.POST 8C32G
TI.S.4XLARGE32.POST 16C32G
TI.S.4XLARGE64.POST 16C64G
TI.S.6XLARGE48.POST 24C48G
TI.S.6XLARGE96.POST 24C96G
TI.S.8XLARGE64.POST 32C64G
TI.S.8XLARGE128.POST 32C128G
TI.GN7.LARGE20.POST 4C20G T41/4
TI.GN7.2XLARGE40.POST 10C40G T41/2
TI.GN7.2XLARGE32.POST 8C32G T41
TI.GN7.5XLARGE80.POST 20C80G T41
TI.GN7.8XLARGE128.POST 32C128G T41
TI.GN7.10XLARGE160.POST 40C160G T42
TI.GN7.20XLARGE320.POST 80C320G T4*4

*/ InstanceType?: string; /** *

扩缩容类型 支持：自动 - "AUTO", 手动 - "MANUAL",默认为MANUAL

*/ ScaleMode?: string; /** *

实例数量, 不同计费模式和调节模式下对应关系如下
PREPAID 和 POSTPAID_BY_HOUR:
手动调节模式下对应 实例数量
自动调节模式下对应 基于时间的默认策略的实例数量
HYBRID_PAID:
后付费实例手动调节模式下对应 实例数量
后付费实例自动调节模式下对应 时间策略的默认策略的实例数量

*/ Replicas?: number; /** *

自动伸缩信息

*/ HorizontalPodAutoscaler?: HorizontalPodAutoscaler; /** *

是否开启日志投递，开启后需填写配置投递到指定cls

*/ LogEnable?: boolean; /** *

日志配置，需要投递服务日志到指定cls时填写

*/ LogConfig?: LogConfig; /** *

是否开启接口鉴权，开启后自动生成token信息，访问需要token鉴权

*/ AuthorizationEnable?: boolean; /** *

腾讯云标签

*/ Tags?: Array; /** *

是否新增版本

*/ NewVersion?: boolean; /** *

定时任务配置，使用定时策略时填写

*/ CronScaleJobs?: Array; /** *

自动伸缩策略配置 HPA : 通过HPA进行弹性伸缩 CRON 通过定时任务进行伸缩

*/ ScaleStrategy?: string; /** *

计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数

*/ HybridBillingPrepaidReplicas?: number; /** *

[AUTO_ML 自动学习，自动学习正式发布 AUTO_ML_FORMAL, DEFAULT 默认]

*/ CreateSource?: string; /** *

是否开启模型的热更新。默认不开启

*/ ModelHotUpdateEnable?: boolean; /** *

定时停止配置

*/ ScheduledAction?: ScheduledAction; /** *

挂载配置，目前只支持CFS

*/ VolumeMount?: VolumeMount; /** *

服务限速限流相关配置

*/ ServiceLimit?: ServiceLimit; /** *

回调地址，用于回调创建服务状态信息，回调格式&内容详情见：TI-ONE 接口回调说明

*/ CallbackUrl?: string; /** *

是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。

*/ ModelTurboEnable?: boolean; /** *

服务分类

*/ ServiceCategory?: string; /** *

服务的启动命令，如遇特殊字符导致配置失败，可使用CommandBase64参数

*/ Command?: string; /** *

是否开启TIONE内网访问外部，此功能仅支持后付费机型与从TIONE平台购买的预付费机型；使用从CVM选择资源组时此配置不生效。

*/ ServiceEIP?: ServiceEIP; /** *

服务的启动命令，以base64格式进行输入，与Command同时配置时，仅当前参数生效

*/ CommandBase64?: string; /** *

服务端口，仅在非内置镜像时生效，默认8501。不支持输入8501-8510,6006,9092

*/ ServicePort?: number; /** *

服务的部署类型 [标准部署，分布式多机部署，] 默认STANDARD

枚举值：

  • STANDARD： 标准部署
  • DIST： 多机分布式部署
  • ROLE_SET： 多角色部署
*/ DeployType?: string; /** *

单副本下的实例数，仅在部署类型为DIST时生效，默认1

*/ InstancePerReplicas?: number; /** *

服务的优雅退出时限。单位为秒，默认值为30，最小为1

*/ TerminationGracePeriodSeconds?: number; /** *

服务实例停止前执行的命令，执行完毕或执行时间超过优雅退出时限后实例结束

*/ PreStopCommand?: Array; /** *

是否启用 grpc 端口

*/ GrpcEnable?: boolean; /** *

健康探针

*/ HealthProbe?: HealthProbe; /** *

滚动更新策略

*/ RollingUpdate?: RollingUpdate; /** *

sidecar配置

*/ Sidecar?: SidecarSpec; /** *

数据盘批量挂载配置，当前仅支持CFS，仅针对“模型来源-腾讯云存储、模型来源-腾讯云容器镜像、模型来源-资源组、模型来源-数据源”。

*/ VolumeMounts?: Array; /** *

调度策略 [binpack] 优先占满整机，尽量避免碎卡（默认值）[spread] 优先分散在各个节点，确保服务高可用

*/ SchedulingStrategy?: string; /** *

网关日志投递相关配置

*/ GatewayLogConfig?: LogConfig; /** *

网关相关配置

*/ GatewayConfig?: GatewayConfig; } /** * DescribeLogs请求参数结构体 */ export interface DescribeLogsRequest { /** *

服务类型，TRAIN为任务式建模, NOTEBOOK为Notebook, INFER为在线服务, BATCH为批量预测
枚举值：

  • TRAIN
  • NOTEBOOK
  • INFER
  • BATCH
*/ Service: string; /** *

日志查询开始时间（RFC3339格式的时间字符串），默认值为当前时间的前一个小时

*/ StartTime?: string; /** *

日志查询结束时间（RFC3339格式的时间字符串），默认值为当前时间

*/ EndTime?: string; /** *

日志查询条数，默认值100，最大值1000

*/ Limit?: number; /** *

服务ID，和Service参数对应，不同Service的服务ID获取方式不同，具体如下：

  • Service类型为TRAIN：
    调用DescribeTrainingTask接口查询训练任务详情，ServiceId为接口返回值中Response.TrainingTaskDetail.LatestInstanceId
  • Service类型为NOTEBOOK：
    调用DescribeNotebook接口查询Notebook详情，ServiceId为接口返回值中Response.NotebookDetail.PodName
  • Service类型为INFER：
    调用DescribeModelServiceGroup接口查询服务组详情，ServiceId为接口返回值中Response.ServiceGroup.Services.ServiceId
  • Service类型为BATCH：
    调用DescribeBatchTask接口查询跑批任务详情，ServiceId为接口返回值中Response.BatchTaskDetail.LatestInstanceId
*/ ServiceId?: string; /** *

Pod的名称，即需要查询服务对应的Pod，和Service参数对应，不同Service的PodName获取方式不同，具体如下：

  • Service类型为TRAIN：
    调用DescribeTrainingTaskPods接口查询训练任务pod列表，PodName为接口返回值中Response.PodNames
  • Service类型为NOTEBOOK：
    调用DescribeNotebook接口查询Notebook详情，PodName为接口返回值中Response.NotebookDetail.PodName
  • Service类型为INFER：
    调用DescribeModelService接口查询单个服务详情，PodName为接口返回值中Response.Service.ServiceInfo.PodInfos
  • Service类型为BATCH：
    调用DescribeBatchTask接口查询跑批任务详情，PodName为接口返回值中Response.BatchTaskDetail. PodList
    注：支持结尾通配符*
*/ PodName?: string; /** *

排序方向（可选值为ASC, DESC ），默认为DESC

*/ Order?: string; /** *

按哪个字段排序（可选值为Timestamp），默认值为Timestamp

*/ OrderField?: string; /** *

日志查询上下文，查询下一页的时候需要回传这个字段，该字段来自本接口的返回

*/ Context?: string; /** *

过滤条件
注意:

  1. Filter.Name：目前只支持Key（也就是按关键字过滤日志）
  2. Filter.Values：表示过滤日志的关键字；Values为多个的时候表示同时满足
  3. Filter. Negative和Filter. Fuzzy没有使用
*/ Filters?: Array; /** *

使用OFFSET分页查询时，指定返回的数据偏移量，默认为0

*/ Offset?: number; } /** * DescribeModelAccelerateVersions请求参数结构体 */ export interface DescribeModelAccelerateVersionsRequest { /** * 过滤条件 Filter.Name: 枚举值: ModelJobName (任务名称)|TrainingModelVersionId (模型版本id) Filter.Values: 当长度为1时，支持模糊查询; 不为1时，精确查询 每次请求的Filters的上限为10，Filter.Values的上限为100 */ Filters?: Array; /** * 排序字段; 枚举值: CreateTime (创建时间) ；默认CreateTime */ OrderField?: string; /** * 排序方向; 枚举值: ASC | DESC；默认DESC */ Order?: string; /** * 分页查询起始位置，如：Limit为100，第一页Offset为0，第二页Offset为100...即每页左边为闭区间; 默认0 */ Offset?: number; /** * 分页查询每页大小，最大20000; 默认10 */ Limit?: number; /** * 模型ID */ TrainingModelId?: string; } /** * StopModelAccelerateTask请求参数结构体 */ export interface StopModelAccelerateTaskRequest { /** * 模型加速任务ID */ ModelAccTaskId: string; } /** * DeleteTrainingModelVersion返回参数结构体 */ export interface DeleteTrainingModelVersionResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 服务共享弹性网卡设置 */ export interface ServiceEIP { /** * 是否开启TIONE内网到外部的访问 注意：此字段可能返回 null，表示取不到有效值。 */ EnableEIP?: boolean; /** * 用户VpcId 注意：此字段可能返回 null，表示取不到有效值。 */ VpcId?: string; /** * 用户subnetId 注意：此字段可能返回 null，表示取不到有效值。 */ SubnetId?: string; } /** * DescribeExport返回参数结构体 */ export interface DescribeExportResponse { /** * 日志下载任务的ID */ ExportId?: string; /** * 日志下载文件名 */ FileName?: string; /** * 日志导出路径,有效期一个小时，请尽快使用该路径下载。 */ CosPath?: string; /** * 下载任务创建时间 */ CreateTime?: string; /** * 日志文件大小 */ FileSize?: string; /** * 日志下载状态。Processing:导出正在进行中，Completed:导出完成，Failed:导出失败，Expired:日志导出已过期(三天有效期), Queuing 排队中 */ Status?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * Notebook列表元素 */ export interface NotebookSetItem { /** * notebook ID */ Id?: string; /** * notebook 名称 */ Name?: string; /** * 计费模式 */ ChargeType?: string; /** * 资源配置 */ ResourceConf?: ResourceConf; /** * 预付费资源组 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupId?: string; /** * 存储卷大小 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSizeInGB?: number; /** * 计费金额信息，eg：2.00元/小时 (for后付费) 注意：此字段可能返回 null，表示取不到有效值。 */ BillingInfos?: Array; /** * 标签配置 注意：此字段可能返回 null，表示取不到有效值。 */ Tags?: Array; /** * 创建时间 */ CreateTime?: string; /** * 启动时间 注意：此字段可能返回 null，表示取不到有效值。 */ StartTime?: string; /** * 更新时间 */ UpdateTime?: string; /** * 运行时间 注意：此字段可能返回 null，表示取不到有效值。 */ RuntimeInSeconds?: number; /** * 计费状态 注意：此字段可能返回 null，表示取不到有效值。 */ ChargeStatus?: string; /** * 状态 */ Status?: string; /** * 错误原因 注意：此字段可能返回 null，表示取不到有效值。 */ FailureReason?: string; /** * 结束时间 注意：此字段可能返回 null，表示取不到有效值。 */ EndTime?: string; /** * Pod名称 注意：此字段可能返回 null，表示取不到有效值。 */ PodName?: string; /** * 后付费资源规格名称 注意：此字段可能返回 null，表示取不到有效值。 */ InstanceTypeAlias?: string; /** * 预付费资源组名称 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupName?: string; /** * 是否自动终止 */ AutoStopping?: boolean; /** * 自动停止时间 注意：此字段可能返回 null，表示取不到有效值。 */ AutomaticStopTime?: number; /** * 存储的类型。取值包含： FREE: 预付费的免费存储 CLOUD_PREMIUM： 高性能云硬盘 CLOUD_SSD： SSD云硬盘 CFS: CFS存储，包含NFS和turbo 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSourceType?: string; /** * CFS存储的配置 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSourceCFS?: CFSConfig; /** * notebook 信息 注意：此字段可能返回 null，表示取不到有效值。 */ Message?: string; /** * notebook用户类型 注意：此字段可能返回 null，表示取不到有效值。 */ UserTypes?: Array; /** * SSH配置 注意：此字段可能返回 null，表示取不到有效值。 */ SSHConfig?: SSHConfig; /** * GooseFS存储配置 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSourceGooseFS?: GooseFS; /** * 子用户ID 注意：此字段可能返回 null，表示取不到有效值。 */ SubUin?: string; /** * 子用户名称 */ SubUinName?: string; /** * AppId 注意：此字段可能返回 null，表示取不到有效值。 */ AppId?: string; /** * 容器服务暴露端口配置 */ ExposePortConfig?: ExposePortConfig; /** * 描述 注意：此字段可能返回 null，表示取不到有效值。 */ Description?: string; } /** * ModifyNotebookTags请求参数结构体 */ export interface ModifyNotebookTagsRequest { /** * Notebook Id */ Id: string; /** * Notebook修改标签集合 */ Tags?: Array; } /** * DescribeDataSources返回参数结构体 */ export interface DescribeDataSourcesResponse { /** * 数据源列表 */ DataSourceInfos?: Array; /** * 总条数 */ TotalCount?: number; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * ModifyServiceGroupWeights返回参数结构体 */ export interface ModifyServiceGroupWeightsResponse { /** * 更新权重后的服务组信息 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceGroup?: ServiceGroup; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 大模型生成Token统计 */ export interface Usage { /** * 生成的token数目 */ CompletionTokens?: number; /** * 输入的token数目 */ PromptTokens?: number; /** * 总共token数目 */ TotalTokens?: number; } /** * 描述网关相关配置 */ export interface GatewayConfig { /** * 网关类型 */ GatewayType?: string; /** * 网关调度算法：轮询、一致性哈希等 */ SchedulingAlgorithm?: string; /** * 一致性哈希使用的Header字段名 */ HashHeaderKey?: string; } /** * 对话结果 */ export interface Choice { /** * 对话结果 */ Message?: Message; /** * 结束理由: stop, length, content_filter, null */ FinishReason?: string; /** * 序号 */ Index?: number; } /** * DeleteNotebook请求参数结构体 */ export interface DeleteNotebookRequest { /** * notebook id */ Id: string; } /** * PushTrainingMetrics请求参数结构体 */ export interface PushTrainingMetricsRequest { /** * 指标数据 */ Data?: Array; } /** * 过滤器 */ export interface Filter { /** * 过滤字段名称 */ Name?: string; /** * 过滤字段取值 */ Values?: Array; /** * 是否开启反向查询 */ Negative?: boolean; /** * 是否开启模糊匹配 */ Fuzzy?: boolean; } /** * DescribeTrainingModelVersions请求参数结构体 */ export interface DescribeTrainingModelVersionsRequest { /** * 模型ID */ TrainingModelId: string; /** * 过滤条件 Filter.Name: 枚举值: TrainingModelVersionId (模型版本ID) ModelVersionType (模型版本类型) 其值支持: NORMAL(通用) ACCELERATE (加速) ModelFormat（模型格式）其值Filter.Values支持： TORCH_SCRIPT/PYTORCH/DETECTRON2/SAVED_MODEL/FROZEN_GRAPH/PMML AlgorithmFramework (算法框架) 其值Filter.Values支持：TENSORFLOW/PYTORCH/DETECTRON2 Filter.Values: 当长度为1时，支持模糊查询; 不为1时，精确查询 每次请求的Filters的上限为10，Filter.Values的上限为100 */ Filters?: Array; } /** * CreateDataset请求参数结构体 */ export interface CreateDatasetRequest { /** * 数据集名称，不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ DatasetName: string; /** * 数据集类型: TYPE_DATASET_TEXT，文本 TYPE_DATASET_IMAGE，图片 TYPE_DATASET_TABLE，表格 TYPE_DATASET_OTHER，其他 */ DatasetType?: string; /** * 数据源cos路径 */ StorageDataPath?: CosPathInfo; /** * 数据集标签cos存储路径 */ StorageLabelPath?: CosPathInfo; /** * 数据集标签 */ DatasetTags?: Array; /** * 数据集标注状态: STATUS_NON_ANNOTATED，未标注 STATUS_ANNOTATED，已标注 */ AnnotationStatus?: string; /** * 标注类型: ANNOTATION_TYPE_CLASSIFICATION，图片分类 ANNOTATION_TYPE_DETECTION，目标检测 ANNOTATION_TYPE_SEGMENTATION，图片分割 ANNOTATION_TYPE_TRACKING，目标跟踪 ANNOTATION_TYPE_OCR，OCR ANNOTATION_TYPE_TEXT_CLASSIFICATION，文本分类 */ AnnotationType?: string; /** * 标注格式: ANNOTATION_FORMAT_TI，TI平台格式 ANNOTATION_FORMAT_PASCAL，Pascal Voc ANNOTATION_FORMAT_COCO，COCO ANNOTATION_FORMAT_FILE，文件目录结构 ANNOTATION_FORMAT_TEXT_TI，文本类型TI平台格式 ANNOTATION_FORMAT_TXT，文本类型TXT格式 ANNOTATION_FORMAT_CSV，文本类型CSV格式 ANNOTATION_FORMAT_JSON，文本类型JSON格式 */ AnnotationFormat?: string; /** * 表头信息 */ SchemaInfos?: Array; /** * 数据是否存在表头 */ IsSchemaExisted?: boolean; /** * 导入文件粒度 TYPE_TEXT_LINE，按行 TYPE_TEXT_FILE，按文件 */ ContentType?: string; /** * 数据集建模一级类别。LLM,CV,STRUCTURE,OTHER */ DatasetScene?: string; /** * 数据集标签。 */ SceneTags?: Array; /** * 数据集CFS配置。仅支持LLM场景 */ CFSConfig?: CFSConfig; } /** * CreateDataset返回参数结构体 */ export interface CreateDatasetResponse { /** * 数据集ID 注意：此字段可能返回 null，表示取不到有效值。 */ DatasetId?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 描述在线服务 */ export interface Service { /** * 服务组id */ ServiceGroupId?: string; /** * 服务id */ ServiceId?: string; /** * 服务组名 */ ServiceGroupName?: string; /** * 服务描述 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceDescription?: string; /** * 服务的详细信息 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceInfo?: ServiceInfo; /** * 集群id 注意：此字段可能返回 null，表示取不到有效值。 */ ClusterId?: string; /** * 地域 注意：此字段可能返回 null，表示取不到有效值。 */ Region?: string; /** * 命名空间 注意：此字段可能返回 null，表示取不到有效值。 */ Namespace?: string; /** * 付费类型 注意：此字段可能返回 null，表示取不到有效值。 */ ChargeType?: string; /** * 包年包月服务的资源组id，按量计费的服务为空 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupId?: string; /** * 包年包月服务对应的资源组名字 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupName?: string; /** * 服务的标签 注意：此字段可能返回 null，表示取不到有效值。 */ Tags?: Array; /** * 服务所在的 ingress 的 name 注意：此字段可能返回 null，表示取不到有效值。 */ IngressName?: string; /** * 创建者 注意：此字段可能返回 null，表示取不到有效值。 */ CreatedBy?: string; /** * 创建时间 注意：此字段可能返回 null，表示取不到有效值。 */ CreateTime?: string; /** * 更新时间 注意：此字段可能返回 null，表示取不到有效值。 */ UpdateTime?: string; /** * 主账号 注意：此字段可能返回 null，表示取不到有效值。 */ Uin?: string; /** * 子账号 注意：此字段可能返回 null，表示取不到有效值。 */ SubUin?: string; /** * app_id 注意：此字段可能返回 null，表示取不到有效值。 */ AppId?: number; /** * 服务的业务状态 CREATING 创建中 CREATE_FAILED 创建失败 CREATE_SUCCEED 创建成功 ARREARS_STOP 因欠费停止 WHITELIST_STOP 白名单额度不足 RELEASE_FAILED 资源释放失败 WHITELIST_RELEASE_FAILED 白名单资源释放失败 TIMEOUT_EXCEPTION 创建超时异常 BILLING 计费中 WHITELIST_USING 白名单试用中 注意：此字段可能返回 null，表示取不到有效值。 */ BusinessStatus?: string; /** * 已废弃,以ServiceInfo中的对应为准 * @deprecated */ ServiceLimit?: ServiceLimit; /** * 已废弃,以ServiceInfo中的对应为准 * @deprecated */ ScheduledAction?: ScheduledAction; /** * 服务创建失败的原因，创建成功后该字段为默认值 CREATE_SUCCEED 注意：此字段可能返回 null，表示取不到有效值。 */ CreateFailedReason?: string; /** * 服务状态 CREATING 创建中 CREATE_FAILED 创建失败 TIMEOUT_EXCEPTION 创建超时异常 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中 注意：此字段可能返回 null，表示取不到有效值。 */ Status?: string; /** * 费用信息 注意：此字段可能返回 null，表示取不到有效值。 */ BillingInfo?: string; /** * 模型权重 注意：此字段可能返回 null，表示取不到有效值。 */ Weight?: number; /** * 服务的创建来源 AUTO_ML: 来自自动学习的一键发布 DEFAULT: 其他来源 注意：此字段可能返回 null，表示取不到有效值。 */ CreateSource?: string; /** * 版本号 注意：此字段可能返回 null，表示取不到有效值。 */ Version?: string; /** * 服务组下服务的最高版本号 注意：此字段可能返回 null，表示取不到有效值。 */ LatestVersion?: string; /** * 资源组类别 托管 NORMAL，纳管 SW 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupSWType?: string; /** * 服务的归档状态 Waiting 等待归档中，Archived 已归档 注意：此字段可能返回 null，表示取不到有效值。 */ ArchiveStatus?: string; /** * 服务的部署类型 [STANDARD 标准部署，DIST 分布式多机部署] 默认STANDARD 注意：此字段可能返回 null，表示取不到有效值。 */ DeployType?: string; /** * 单副本下的实例数，仅在部署类型为DIST时生效，默认1 注意：此字段可能返回 null，表示取不到有效值。 */ InstancePerReplicas?: string; /** * 用于监控查询的Source 枚举值，部分情况下与CreateSource不同，通过该字段兼容 */ MonitorSource?: string; /** * 服务创建者的子账号名称 */ SubUinName?: string; /** * 服务的调度策略 */ SchedulingPolicy?: SchedulingPolicy; /** * 外部的资源组信息，表示借调了哪些资源组的资源 */ ExternalResourceGroups?: Array; } /** * 设备对应的镜像信息 */ export interface DeviceImageInfo { /** * 设备类型, 支持GPU等 注意：此字段可能返回 null，表示取不到有效值。 */ DeviceType?: string; /** * 镜像信息 注意：此字段可能返回 null，表示取不到有效值。 */ ImageInfo?: ImageInfo; } /** * 跨租户弹性网卡下Pod调用信息 */ export interface CrossTenantENIInfo { /** * Pod IP 注意：此字段可能返回 null，表示取不到有效值。 */ PrimaryIP?: string; /** * Pod Port 注意：此字段可能返回 null，表示取不到有效值。 */ Port?: string; } /** * 模型专业参数 */ export interface HyperParameter { /** * 最大nnz数 注意：此字段可能返回 null，表示取不到有效值。 */ MaxNNZ?: string; /** * slot数 注意：此字段可能返回 null，表示取不到有效值。 */ SlotNum?: string; /** * gpu cache 使用率 注意：此字段可能返回 null，表示取不到有效值。 */ CpuCachePercentage?: string; /** * cpu cache 使用率 注意：此字段可能返回 null，表示取不到有效值。 */ GpuCachePercentage?: string; /** * 是否开启分布式模式(true/false) 注意：此字段可能返回 null，表示取不到有效值。 */ EnableDistributed?: string; /** * TORCH_SCRIPT、MMDETECTION、DETECTRON2、HUGGINGFACE格式在进行优化时切分子图的最小算子数目，一般无需进行改动，默认为3 注意：此字段可能返回 null，表示取不到有效值。 */ MinBlockSizePt?: string; /** * FROZEN_GRAPH、SAVED_MODEL格式在进行优化时切分子图的最小算子数目，一般无需进行改动，默认为10 注意：此字段可能返回 null，表示取不到有效值。 */ MinBlockSizeTf?: string; /** * Stable Diffusion 模型优化参数 注意：此字段可能返回 null，表示取不到有效值。 */ PipelineArgs?: string; /** * Stable Diffusion 模型优化参数，控制Lora模型的影响效果 注意：此字段可能返回 null，表示取不到有效值。 */ LoraScale?: string; } /** * DescribeDataSources请求参数结构体 */ export interface DescribeDataSourcesRequest { /** * 过滤条件 */ Filters?: Array; /** * 标签过滤条件 */ TagFilters?: Array; /** * 偏移量 */ Offset?: number; /** * 分页大小 */ Limit?: number; /** * 排序的依据字段 */ OrderField?: string; /** * 输出列表的排列顺序。取值范围：ASC：升序排列 DESC：降序排列 */ Order?: string; } /** * CreateDataSource请求参数结构体 */ export interface CreateDataSourceRequest { /** * 数据源名称 */ Name?: string; /** * 数据源类型英文名 */ Type?: string; /** * 数据源权限，取值有RW RO */ Permission?: string; /** * 存储实例ID */ StorageId?: string; /** * 数据源挂载配置 */ MountConfigure?: MountConfigureInfo; /** * 标签配置 */ Tags?: Array; } /** * ModifyServiceGroupWeights请求参数结构体 */ export interface ModifyServiceGroupWeightsRequest { /** * 服务组id */ ServiceGroupId: string; /** * 权重设置 */ Weights: Array; } /** * DescribeTrainingTasks请求参数结构体 */ export interface DescribeTrainingTasksRequest { /** * 过滤器，eg：[{ "Name": "Id", "Values": ["train-23091792777383936"] }] 取值范围： Name（名称）：task1 Id（task ID）：train-23091792777383936 Status（状态）：SUBMITTING/PENDING/STARTING / RUNNING / STOPPING / STOPPED / FAILED / SUCCEED / SUBMIT_FAILED ResourceGroupId（资源组 Id）：trsg-kvvfrwl7 Creator（创建者 uin）：100014761913 ChargeType（计费类型）：PREPAID（预付费）/ POSTPAID_BY_HOUR（后付费） CHARGE_STATUS（计费状态）：NOT_BILLING（未开始计费）/ BILLING（计费中）/ ARREARS_STOP（欠费停止） */ Filters?: Array; /** * 标签过滤器，eg：[{ "TagKey": "TagKeyA", "TagValue": ["TagValueA"] }] */ TagFilters?: Array; /** * 偏移量，默认为0 */ Offset?: number; /** * 返回数量，默认为10，最大为50 */ Limit?: number; /** * 输出列表的排列顺序。取值范围：ASC（升序排列）/ DESC（降序排列），默认为DESC */ Order?: string; /** * 排序的依据字段， 取值范围 "CreateTime" 、"UpdateTime"、"StartTime"，默认为UpdateTime */ OrderField?: string; } /** * 滚动更新策略 */ export interface RollingUpdate { /** * 滚动更新的最大不可用 */ MaxUnavailable?: NumOrPercent; /** * 滚动更新的最大新增实例 */ MaxSurge?: NumOrPercent; } /** * 代码仓库配置 */ export interface CodeRepoConfig { /** * 代码仓库Id */ Id: string; /** * 代码仓下载目标地址 */ TargetPath: string; } /** * DescribeMountInstance返回参数结构体 */ export interface DescribeMountInstanceResponse { /** * 挂载的实例详情 */ MountInstance?: MountInstanceInfo; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeMountInstances请求参数结构体 */ export interface DescribeMountInstancesRequest { /** * 数据源类型英文名 */ Type: string; /** * 偏移量 */ Offset?: number; /** * 分页大小 */ Limit?: number; } /** * ModifyNotebookTags返回参数结构体 */ export interface ModifyNotebookTagsResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * UpdateDataSource请求参数结构体 */ export interface UpdateDataSourceRequest { /** * 数据源ID */ Id?: string; /** * 数据源名称 */ Name?: string; /** * 数据源权限，取值有RW RO */ Permission?: string; /** * 数据源挂载配置 */ MountConfigure?: MountConfigureInfo; } /** * DescribeBillingResourceGroup返回参数结构体 */ export interface DescribeBillingResourceGroupResponse { /** * 资源组节点总数； 注意接口是分页拉取的，total是指资源组节点总数，不是本次返回中InstanceSet数组的大小 注意：此字段可能返回 null，表示取不到有效值。 */ TotalCount?: number; /** * 资源组节点信息 注意：此字段可能返回 null，表示取不到有效值。 */ InstanceSet?: Array; /** * 资源组纳管类型 */ ResourceGroupSWType?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 计费项询价单元 */ export interface SpecUnit { /** * 计费项名称 */ SpecName: string; /** * 计费项数量,建议不超过100万 */ SpecCount: number; } /** * 服务的调用信息，服务组下唯一 */ export interface ServiceCallInfo { /** * 服务组id 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceGroupId?: string; /** * 内网http调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ InnerHttpAddr?: string; /** * 内网https调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ InnerHttpsAddr?: string; /** * 内网http调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ OuterHttpAddr?: string; /** * 内网https调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ OuterHttpsAddr?: string; /** * 调用key 注意：此字段可能返回 null，表示取不到有效值。 */ AppKey?: string; /** * 调用secret 注意：此字段可能返回 null，表示取不到有效值。 */ AppSecret?: string; /** * 鉴权是否开启 注意：此字段可能返回 null，表示取不到有效值。 */ AuthorizationEnable?: boolean; } /** * cos的路径信息 */ export interface CosPathInfo { /** * 存储桶 注意：此字段可能返回 null，表示取不到有效值。 */ Bucket: string; /** * 所在地域 注意：此字段可能返回 null，表示取不到有效值。 */ Region: string; /** * 路径列表，目前只支持单个 注意：此字段可能返回 null，表示取不到有效值。 */ Paths: Array; } /** * DescribeBillingResourceGroups返回参数结构体 */ export interface DescribeBillingResourceGroupsResponse { /** * 资源组总数； 注意接口是分页拉取的，total是指资源组总数，不是本次返回中ResourceGroupSet数组的大小 */ TotalCount?: number; /** * 资源组详情 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupSet?: Array; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeTrainingTask请求参数结构体 */ export interface DescribeTrainingTaskRequest { /** * 训练任务ID */ Id: string; /** * 训练任务实例ID */ InstanceId?: string; } /** * StartNotebook返回参数结构体 */ export interface StartNotebookResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 模型输入信息 */ export interface ModelInputInfo { /** * input数据类型 FIXED：固定 RANGE：浮动 注意：此字段可能返回 null，表示取不到有效值。 */ ModelInputType: string; /** * input数据尺寸 注意：此字段可能返回 null，表示取不到有效值。 */ ModelInputDimension: Array; } /** * 配置CFSTurbo参数 */ export interface CFSTurbo { /** * CFSTurbo实例id 注意：此字段可能返回 null，表示取不到有效值。 */ Id?: string; /** * CFSTurbo路径 注意：此字段可能返回 null，表示取不到有效值。 */ Path?: string; } /** * DescribeTrainingModelVersion请求参数结构体 */ export interface DescribeTrainingModelVersionRequest { /** * 模型版本ID */ TrainingModelVersionId: string; } /** * 资源组节点运行任务信息 */ export interface ResourceInstanceRunningJobInfo { /** * pod名称 注意：此字段可能返回 null，表示取不到有效值。 */ PodName?: string; /** * 任务类型 注意：此字段可能返回 null，表示取不到有效值。 */ TaskType?: string; /** * 任务id 注意：此字段可能返回 null，表示取不到有效值。 */ TaskId?: string; /** * 任务自定义名称 注意：此字段可能返回 null，表示取不到有效值。 */ TaskName?: string; } /** * 镜像列表过滤 */ export interface ImageFIlter { /** * 过滤字段名称 */ Name: string; /** * 过滤值 */ Values: Array; /** * 是否反选 */ Negative?: boolean; } /** * 默认Nginx网关结构 */ export interface DefaultNginxGatewayCallInfo { /** * host 注意：此字段可能返回 null，表示取不到有效值。 */ Host?: string; } /** * CFS存储的配置 */ export interface CFSConfig { /** * cfs的实例的ID */ Id: string; /** * 存储的路径 */ Path: string; /** * cfs的挂载类型，可选值为：STORAGE、SOURCE 分别表示存储拓展模式和数据源模式，默认为 STORAGE 注意：此字段可能返回 null，表示取不到有效值。 */ MountType?: string; /** * 协议 1: NFS, 2: TURBO 注意：此字段可能返回 null，表示取不到有效值。 */ Protocol?: string; } /** * DescribeMountInstance请求参数结构体 */ export interface DescribeMountInstanceRequest { /** * 数据源类型英文名 */ Type: string; /** * 存储实例ID */ StorageId?: string; } /** * StartNotebook请求参数结构体 */ export interface StartNotebookRequest { /** * notebook id */ Id: string; } /** * 用于表示百分比或数量 */ export interface NumOrPercent { /** * Num,Percent ,分别表示数量和百分比，默认为 Num */ Type?: string; /** * 数值 */ Value?: number; } /** * 推理镜像详情 */ export interface InferTemplate { /** * 模板ID */ InferTemplateId: string; /** * 模板镜像 */ InferTemplateImage: string; } /** * DescribeModelAccelerateVersions返回参数结构体 */ export interface DescribeModelAccelerateVersionsResponse { /** * 优化模型总数； 注意接口是分页拉取的，total是指优化模型节点总数，不是本次返回中ModelAccelerateVersions数组的大小 注意：此字段可能返回 null，表示取不到有效值。 注意：此字段可能返回 null，表示取不到有效值。 */ TotalCount?: number; /** * 优化模型列表 注意：此字段可能返回 null，表示取不到有效值。 */ ModelAccelerateVersions?: Array; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeBuildInImages请求参数结构体 */ export interface DescribeBuildInImagesRequest { /** * 镜像过滤器 */ ImageFilters?: Array; } /** * 数据源挂载配置 */ export interface MountConfigureInfo { /** * 数据源的相对路径，支持<@subaccount>这样的占位符 */ WorkDir?: string; } /** * StartTrainingTask请求参数结构体 */ export interface StartTrainingTaskRequest { /** * 训练任务ID */ Id: string; } /** * DescribePlatformImages返回参数结构体 */ export interface DescribePlatformImagesResponse { /** * 数量 */ TotalCount?: number; /** * 镜像列表 */ PlatformImageInfos?: Array; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 容器状态 */ export interface ContainerStatus { /** * 重启次数 注意：此字段可能返回 null，表示取不到有效值。 */ RestartCount: number; /** * 状态 注意：此字段可能返回 null，表示取不到有效值。 */ State: string; /** * 是否就绪 注意：此字段可能返回 null，表示取不到有效值。 */ Ready: boolean; /** * 状态原因 注意：此字段可能返回 null，表示取不到有效值。 */ Reason: string; /** * 容器的错误信息 注意：此字段可能返回 null，表示取不到有效值。 */ Message: string; } /** * DescribeMountInstances返回参数结构体 */ export interface DescribeMountInstancesResponse { /** * 挂载的实例列表 */ MountInstances?: Array; /** * 总条数 */ TotalCount?: number; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * UpdateMountLimit请求参数结构体 */ export interface UpdateMountLimitRequest { /** * 数据源类型英文名 */ Type: string; /** * 存储实例ID */ StorageId: string; /** * 限制开关是否开启，只有开启时才有限制，默认关闭 */ LimitMount: boolean; } /** * ModifyModelService请求参数结构体 */ export interface ModifyModelServiceRequest { /** * 服务id */ ServiceId: string; /** * 模型信息，需要挂载模型时填写 */ ModelInfo?: ModelInfo; /** * 镜像信息，配置服务运行所需的镜像地址等信息 */ ImageInfo?: ImageInfo; /** * 环境变量，可选参数，用于配置容器中的环境变量 */ Env?: Array; /** * 资源描述，指定预付费模式下的cpu,mem,gpu等信息，后付费无需填写 */ Resources?: ResourceInfo; /** * 使用DescribeBillingSpecs接口返回的规格列表中的值，或者参考实例列表: TI.S.MEDIUM.POST 2C4G TI.S.LARGE.POST 4C8G TI.S.2XLARGE16.POST 8C16G TI.S.2XLARGE32.POST 8C32G TI.S.4XLARGE32.POST 16C32G TI.S.4XLARGE64.POST 16C64G TI.S.6XLARGE48.POST 24C48G TI.S.6XLARGE96.POST 24C96G TI.S.8XLARGE64.POST 32C64G TI.S.8XLARGE128.POST 32C128G TI.GN7.LARGE20.POST 4C20G T4*1/4 TI.GN7.2XLARGE40.POST 10C40G T4*1/2 TI.GN7.2XLARGE32.POST 8C32G T4*1 TI.GN7.5XLARGE80.POST 20C80G T4*1 TI.GN7.8XLARGE128.POST 32C128G T4*1 TI.GN7.10XLARGE160.POST 40C160G T4*2 TI.GN7.20XLARGE320.POST 80C320G T4*4 */ InstanceType?: string; /** * 扩缩容类型 支持：自动 - "AUTO", 手动 - "MANUAL" */ ScaleMode?: string; /** * 实例数量, 不同计费模式和调节模式下对应关系如下 PREPAID 和 POSTPAID_BY_HOUR: 手动调节模式下对应 实例数量 自动调节模式下对应 基于时间的默认策略的实例数量 HYBRID_PAID: 后付费实例手动调节模式下对应 实例数量 后付费实例自动调节模式下对应 时间策略的默认策略的实例数量 */ Replicas?: number; /** * 自动伸缩信息 */ HorizontalPodAutoscaler?: HorizontalPodAutoscaler; /** * 是否开启日志投递，开启后需填写配置投递到指定cls */ LogEnable?: boolean; /** * 日志配置，需要投递服务日志到指定cls时填写 */ LogConfig?: LogConfig; /** * 特殊更新行为： "STOP": 停止, "RESUME": 重启, "SCALE": 扩缩容, 存在这些特殊更新行为时，会忽略其他更新字段 */ ServiceAction?: string; /** * 服务的描述 */ ServiceDescription?: string; /** * 自动伸缩策略 */ ScaleStrategy?: string; /** * 自动伸缩策略配置 HPA : 通过HPA进行弹性伸缩 CRON 通过定时任务进行伸缩 */ CronScaleJobs?: Array; /** * 计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数, 若不填则默认为1 */ HybridBillingPrepaidReplicas?: number; /** * 是否开启模型的热更新。默认不开启 */ ModelHotUpdateEnable?: boolean; /** * 定时停止配置 */ ScheduledAction?: ScheduledAction; /** * 服务限速限流相关配置 */ ServiceLimit?: ServiceLimit; /** * 挂载配置，目前只支持CFS */ VolumeMount?: VolumeMount; /** * 是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。默认不开启 */ ModelTurboEnable?: boolean; /** * 服务的启动命令，如遇特殊字符导致配置失败，可使用CommandBase64参数 */ Command?: string; /** * 是否开启TIONE内网访问外部，此功能仅支持后付费机型与从TIONE平台购买的预付费机型；使用从CVM选择资源组时此配置不生效。 */ ServiceEIP?: ServiceEIP; /** * 服务的启动命令，以base64格式进行输入，与Command同时配置时，仅当前参数生效 */ CommandBase64?: string; /** * 服务端口，仅在非内置镜像时生效，默认8501。不支持输入8501-8510,6006,9092 */ ServicePort?: number; /** * 单副本下的实例数，仅在部署类型为DIST时生效，默认1 */ InstancePerReplicas?: number; /** * 服务的优雅退出时限。单位为秒，默认值为30，最小为1 */ TerminationGracePeriodSeconds?: number; /** * 服务实例停止前执行的命令，执行完毕或执行时间超过优雅退出时限后实例结束 */ PreStopCommand?: Array; /** * 是否启动grpc端口 */ GrpcEnable?: boolean; /** * 健康探针 */ HealthProbe?: HealthProbe; /** * 滚动更新策略 */ RollingUpdate?: RollingUpdate; /** * sidecar配置 */ Sidecar?: SidecarSpec; /** * 资源组 id */ ResourceGroupId?: string; /** * 数据盘批量挂载配置，当前仅支持CFS，仅针对“模型来源-腾讯云存储、模型来源-腾讯云容器镜像、模型来源-资源组、模型来源-数据源”。 */ VolumeMounts?: Array; /** * 调度策略 [binpack] 优先占满整机，尽量避免碎卡（默认值）[spread] 优先分散在各个节点，确保服务高可用 */ SchedulingStrategy?: string; /** * 目标工作空间，不为0则进行迁移，源服务只允许在默认空间 */ TargetProjectId?: number; } /** * ChatCompletion请求参数结构体 */ export interface ChatCompletionRequest { /** * 对话的目标模型ID。 自行部署的开源大模型聊天：部署的模型服务组ID，形如ms-q7pfr29p。 */ Model: string; /** * 输入对话历史。旧的对话在前，数组中最后一项应该为这次的问题。 */ Messages: Array; /** * 仅当模型为自行部署的开源大模型时生效。采样随机值，默认值为0.7，取值范围[0,2]。较高的值(如0.8)将使输出更加随机，而较低的值(如0.2)将使输出更加确定。建议仅修改此参数或TopP，但不建议两者都修改。 */ Temperature?: number; /** * 仅当模型为自行部署的开源大模型时生效。核采样，默认值为1，取值范围[0,1]。指的是预先设置一个概率界限 p，然后将所有可能生成的token，根据概率大小从高到低排列，依次选取。当这些选取的token的累积概率大于或等于 p 值时停止，然后从已经选取的token中进行采样，生成下一个token。例如top_p为0.1时意味着模型只考虑累积概率为10%的token。建议仅修改此参数或Temperature，不建议两者都修改。 */ TopP?: number; /** * 仅当模型为自行部署的开源大模型时生效。默认 512，模型可生成内容的最长 token 数量，最大不能超过模型支持的上下文长度。 */ MaxTokens?: number; } /** * CreateMountLimit返回参数结构体 */ export interface CreateMountLimitResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 出参类型 */ export interface TrainingTaskSetItem { /** *

训练任务ID

*/ Id?: string; /** *

训练任务名称

*/ Name?: string; /** *

框架名称

注意：此字段可能返回 null，表示取不到有效值。 */ FrameworkName?: string; /** *

训练框架版本

注意：此字段可能返回 null，表示取不到有效值。 */ FrameworkVersion?: string; /** *

框架运行环境

注意：此字段可能返回 null，表示取不到有效值。 */ FrameworkEnvironment?: string; /** *

计费模式

*/ ChargeType?: string; /** *

计费状态，eg：BILLING计费中，ARREARS_STOP欠费停止，NOT_BILLING不在计费中

*/ ChargeStatus?: string; /** *

预付费专用资源组

注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupId?: string; /** *

资源配置

*/ ResourceConfigInfos?: Array; /** *

训练模式eg：PS_WORKER、DDP、MPI、HOROVOD

注意：此字段可能返回 null，表示取不到有效值。 */ TrainingMode?: string; /** *

任务状态，eg：SUBMITTING提交中、PENDING排队中、
STARTING启动中、RUNNING运行中、STOPPING停止中、STOPPED已停止、FAILED异常、SUCCEED已完成

*/ Status?: string; /** *

运行时长

注意：此字段可能返回 null，表示取不到有效值。 */ RuntimeInSeconds?: number; /** *

创建时间

*/ CreateTime?: string; /** *

训练开始时间

注意：此字段可能返回 null，表示取不到有效值。 */ StartTime?: string; /** *

训练结束时间

注意：此字段可能返回 null，表示取不到有效值。 */ EndTime?: string; /** *

训练输出

*/ Output?: CosPathInfo; /** *

失败原因

注意：此字段可能返回 null，表示取不到有效值。 */ FailureReason?: string; /** *

更新时间

*/ UpdateTime?: string; /** *

计费金额信息，eg：2.00元/小时 (按量计费)

*/ BillingInfo?: string; /** *

预付费专用资源组名称

*/ ResourceGroupName?: string; /** *

自定义镜像信息

注意：此字段可能返回 null，表示取不到有效值。 */ ImageInfo?: ImageInfo; /** *

任务信息

注意：此字段可能返回 null，表示取不到有效值。 */ Message?: string; /** *

标签配置

注意：此字段可能返回 null，表示取不到有效值。 */ Tags?: Array; /** *

回调地址

注意：此字段可能返回 null，表示取不到有效值。 */ CallbackUrl?: string; /** *

任务subUin信息

注意：此字段可能返回 null，表示取不到有效值。 */ SubUin?: string; /** *

任务创建者名称

注意：此字段可能返回 null，表示取不到有效值。 */ SubUinName?: string; /** *

任务AppId

*/ AppId?: string; /** *

环境变量

*/ Envs?: Array; } /** * DescribeModelServiceCallInfo请求参数结构体 */ export interface DescribeModelServiceCallInfoRequest { /** * 服务组id */ ServiceGroupId: string; /** * 服务分类 * @deprecated */ ServiceCategory?: string; } /** * 数据点 */ export interface DataPoint { /** * 指标名字 */ Name: string; /** * 值 */ Value: number; } /** * DescribeNotebook返回参数结构体 */ export interface DescribeNotebookResponse { /** * 详情 */ NotebookDetail?: NotebookDetail; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 太极服务的调用信息 */ export interface TJCallInfo { /** * 调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ HttpAddr?: string; /** * token 注意：此字段可能返回 null，表示取不到有效值。 */ Token?: string; /** * 调用示例 注意：此字段可能返回 null，表示取不到有效值。 */ CallExample?: string; } /** * CBS存储配置 */ export interface CBSConfig { /** * 存储大小 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSizeInGB: number; } /** * CreateTrainingModel请求参数结构体 */ export interface CreateTrainingModelRequest { /** * 导入方式 MODEL：导入新模型 VERSION：导入新版本 EXIST：导入现有版本 */ ImportMethod: string; /** * 推理环境来源（SYSTEM/CUSTOM） */ ReasoningEnvironmentSource: string; /** * 模型名称，不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ TrainingModelName?: string; /** * 标签配置 */ Tags?: Array; /** * 训练任务名称 */ TrainingJobName?: string; /** * 模型来源cos目录，以/结尾 */ TrainingModelCosPath?: CosPathInfo; /** * 算法框架 （PYTORCH/TENSORFLOW/DETECTRON2/PMML/MMDETECTION/ONNX) */ AlgorithmFramework?: string; /** * 推理环境 */ ReasoningEnvironment?: string; /** * 训练指标，最多支持1000字符 */ TrainingModelIndex?: string; /** * 模型版本 */ TrainingModelVersion?: string; /** * 自定义推理环境 */ ReasoningImageInfo?: ImageInfo; /** * 模型移动方式（CUT/COPY） */ ModelMoveMode?: string; /** * 训练任务ID */ TrainingJobId?: string; /** * 模型ID（导入新模型不需要，导入新版本需要） */ TrainingModelId?: string; /** * 模型存储cos目录 */ ModelOutputPath?: CosPathInfo; /** * 模型来源 （JOB/COS） */ TrainingModelSource?: string; /** * 模型偏好 */ TrainingPreference?: string; /** * 自动学习任务ID（已废弃） */ AutoMLTaskId?: string; /** * 任务版本 */ TrainingJobVersion?: string; /** * 模型版本类型； 枚举值：NORMAL(通用) ACCELERATE(加速) 注意: 默认为NORMAL */ ModelVersionType?: string; /** * 模型格式 （PYTORCH/TORCH_SCRIPT/DETECTRON2/SAVED_MODEL/FROZEN_GRAPH/PMML/MMDETECTION/ONNX/HUGGING_FACE_BERT/HUGGING_FACE_STABLE_DIFFUSION/HUGGING_FACE_STABLE_DIFFUSION_LORA/WEB_UI_STABLE_DIFFUSION） */ ModelFormat?: string; /** * 推理镜像ID */ ReasoningEnvironmentId?: string; /** * 模型自动清理开关(true/false)，当前版本仅支持SAVED_MODEL格式模型 */ AutoClean?: string; /** * 模型数量保留上限(默认值为24个，上限为24，下限为1，步长为1) */ MaxReservedModels?: number; /** * 模型清理周期(默认值为1分钟，上限为1440，下限为1分钟，步长为1) */ ModelCleanPeriod?: number; /** * 是否QAT模型 */ IsQAT?: boolean; } /** * 表格数据集表头信息 */ export interface SchemaInfo { /** * 长度30字符内 */ Name: string; /** * 数据类型 */ Type: string; } /** * 启动命令信息 */ export interface StartCmdInfo { /** * 启动命令 */ StartCmd?: string; /** * ps启动命令 */ PsStartCmd?: string; /** * worker启动命令 */ WorkerStartCmd?: string; } /** * K8s的Event */ export interface Event { /** * 事件的id 注意：此字段可能返回 null，表示取不到有效值。 */ Id: string; /** * 事件的具体信息 注意：此字段可能返回 null，表示取不到有效值。 */ Message: string; /** * 事件第一次发生的时间 注意：此字段可能返回 null，表示取不到有效值。 */ FirstTimestamp: string; /** * 事件最后一次发生的时间 注意：此字段可能返回 null，表示取不到有效值。 */ LastTimestamp: string; /** * 事件发生的次数 注意：此字段可能返回 null，表示取不到有效值。 */ Count: number; /** * 事件的类型 注意：此字段可能返回 null，表示取不到有效值。 */ Type: string; /** * 事件关联的资源的类型 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceKind: string; /** * 事件关联的资源的名字 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceName: string; } /** * DescribeModelServiceGroups返回参数结构体 */ export interface DescribeModelServiceGroupsResponse { /** * 推理服务组数量。 注意：此字段可能返回 null，表示取不到有效值。 */ TotalCount?: number; /** * 服务组信息 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceGroups?: Array; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 计费项内容 */ export interface Spec { /** * 计费项标签 */ SpecId?: string; /** * 计费项名称 */ SpecName?: string; /** * 计费项显示名称 */ SpecAlias?: string; /** * 是否售罄 */ Available?: boolean; /** * 当前资源售罄时，可用的区域有哪些 */ AvailableRegion?: Array; /** * 当前计费项支持的特性 注意：此字段可能返回 null，表示取不到有效值。 */ SpecFeatures?: Array; /** * 计费项类型 注意：此字段可能返回 null，表示取不到有效值。 */ SpecType?: string; /** * GPU类型 注意：此字段可能返回 null，表示取不到有效值。 */ GpuType?: string; /** * 计费项CategoryId 注意：此字段可能返回 null，表示取不到有效值。 */ CategoryId?: string; } /** * DescribeDataSource请求参数结构体 */ export interface DescribeDataSourceRequest { /** * 数据源id */ Id?: string; } /** * DescribePublicAlgoVersionList返回参数结构体 */ export interface DescribePublicAlgoVersionListResponse { /** * 算法版本数量 注意：此字段可能返回 null，表示取不到有效值。 */ TotalCount?: number; /** * 公共算法版本列表 注意：此字段可能返回 null，表示取不到有效值。 */ PublicAlgoVersions?: Array; /** * 聚合后的公共算法版本列表 注意：此字段可能返回 null，表示取不到有效值。 */ AggregatePublicAlgoVersions?: Array; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeBillingResourceInstanceRunningJobs返回参数结构体 */ export interface DescribeBillingResourceInstanceRunningJobsResponse { /** * 资源组节点运行中的任务信息 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceInstanceRunningJobInfos?: Array; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 服务的调用信息，服务组下唯一 */ export interface InferGatewayCallInfo { /** * 内网http调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ VpcHttpAddr: string; /** * 内网https调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ VpcHttpsAddr: string; /** * 内网grpc调用地址 注意：此字段可能返回 null，表示取不到有效值。 */ VpcGrpcTlsAddr: string; /** * 可访问的vpcid 注意：此字段可能返回 null，表示取不到有效值。 */ VpcId: string; /** * 后端ip对应的子网 注意：此字段可能返回 null，表示取不到有效值。 */ SubnetId: string; } /** * CreateDataSource返回参数结构体 */ export interface CreateDataSourceResponse { /** * 数据源ID */ Id?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 在线服务中服务的资源组简略信息结构 */ export interface ResourceGroupInfo { /** * 资源组 id */ ResourceGroupId?: string; /** * 资源组名称 */ ResourceGroupName?: string; } /** * CreateNotebook请求参数结构体 */ export interface CreateNotebookRequest { /** * 名称。不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ Name: string; /** * 计算资源付费模式 ，可选值为： PREPAID：预付费，即包年包月 POSTPAID_BY_HOUR：按小时后付费 */ ChargeType: string; /** * 计算资源配置 */ ResourceConf: ResourceConf; /** * 是否上报日志 */ LogEnable: boolean; /** * 是否ROOT权限 */ RootAccess: boolean; /** * 是否自动停止 */ AutoStopping: boolean; /** * 是否访问公网 */ DirectInternetAccess: boolean; /** * 资源组ID(for预付费) */ ResourceGroupId?: string; /** * Vpc-Id */ VpcId?: string; /** * 子网Id */ SubnetId?: string; /** * 存储的类型。取值包含： FREE：预付费的免费存储 CLOUD_PREMIUM：高性能云硬盘 CLOUD_SSD：SSD云硬盘 CFS：CFS存储 CFS_TURBO：CFS Turbo存储 GooseFSx：GooseFSx存储 */ VolumeSourceType?: string; /** * 云硬盘存储卷大小，单位GB */ VolumeSizeInGB?: number; /** * CFS存储的配置 */ VolumeSourceCFS?: CFSConfig; /** * 日志配置 */ LogConfig?: LogConfig; /** * 生命周期脚本的ID */ LifecycleScriptId?: string; /** * 默认GIT存储库的ID */ DefaultCodeRepoId?: string; /** * 其他GIT存储库的ID，最多3个 */ AdditionalCodeRepoIds?: Array; /** * 自动停止时间，单位小时 */ AutomaticStopTime?: number; /** * 标签配置 */ Tags?: Array; /** * 数据存储挂载配置 */ DataConfigs?: Array; /** * 镜像信息 */ ImageInfo?: ImageInfo; /** * 镜像类型，包括SYSTEM、TCR、CCR */ ImageType?: string; /** * SSH配置信息 */ SSHConfig?: SSHConfig; /** * GooseFS存储配置 */ VolumeSourceGooseFS?: GooseFS; /** * 描述 */ Description?: string; } /** * CreatePresignedNotebookUrl返回参数结构体 */ export interface CreatePresignedNotebookUrlResponse { /** * 携带认证TOKEN的URL */ AuthorizedUrl?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * ModifyNotebook请求参数结构体 */ export interface ModifyNotebookRequest { /** * notebook id */ Id: string; /** * 名称。不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ Name: string; /** * （不允许修改）计算资源付费模式 ，可选值为： PREPAID：预付费，即包年包月 POSTPAID_BY_HOUR：按小时后付费 */ ChargeType: string; /** * 计算资源配置 */ ResourceConf: ResourceConf; /** * 是否自动停止 */ AutoStopping: boolean; /** * 是否访问公网 */ DirectInternetAccess: boolean; /** * 是否ROOT权限 */ RootAccess: boolean; /** * 是否上报日志 */ LogEnable: boolean; /** * 资源组ID(for预付费) */ ResourceGroupId?: string; /** * （不允许修改）Vpc-Id */ VpcId?: string; /** * （不允许修改）子网Id */ SubnetId?: string; /** * 存储卷大小，单位GB */ VolumeSizeInGB?: number; /** * （不允许修改）存储的类型。取值包含： FREE: 预付费的免费存储 CLOUD_PREMIUM： 高性能云硬盘 CLOUD_SSD： SSD云硬盘 CFS: CFS存储，包含NFS和turbo */ VolumeSourceType?: string; /** * （不允许修改）CFS存储的配置 */ VolumeSourceCFS?: CFSConfig; /** * 日志配置 */ LogConfig?: LogConfig; /** * 生命周期脚本的ID */ LifecycleScriptId?: string; /** * 默认GIT存储库的ID */ DefaultCodeRepoId?: string; /** * 其他GIT存储库的ID，最多3个 */ AdditionalCodeRepoIds?: Array; /** * 自动停止时间，单位小时 */ AutomaticStopTime?: number; /** * 标签配置 */ Tags?: Array; /** * 数据配置，只支持WEDATA_HDFS */ DataConfigs?: Array; /** * 镜像信息 */ ImageInfo?: ImageInfo; /** * 镜像类型，包括SYSTEM、TCR、CCR */ ImageType?: string; /** * SSH配置 */ SSHConfig?: SSHConfig; /** * 自定义环境变量 */ Envs?: Array; /** * 描述 */ Description?: string; } /** * hpa的描述 */ export interface HorizontalPodAutoscaler { /** * 最小实例数 注意：此字段可能返回 null，表示取不到有效值。 */ MinReplicas: number; /** * 最大实例数 注意：此字段可能返回 null，表示取不到有效值。 */ MaxReplicas: number; /** * 支持： "gpu-util": GPU利用率。范围{10, 100} "cpu-util": CPU利用率。范围{10, 100} "memory-util": 内存利用率。范围{10, 100} "service-qps": 单个实例QPS值。范围{1, 5000} "concurrency-util":单个实例请求数量值。范围{1,100000} 注意：此字段可能返回 null，表示取不到有效值。 */ HpaMetrics: Array