Skip to content

内置模型 ​

根据输入数据和任务选择模型后端:

后端主要用途输入输出
TZRec召回、排序、多目标预测类别与数值特征概率、预测值或双塔向量
GBDT树模型排序与回归数值特征;CatBoost 也支持类别特征probs
Hugging Face文本分类、生成、文本和图片向量文本或图片 URL标签、文本或向量
external接入已有 HTTP 推理服务服务声明的字段配置的输出字段

创建、训练、导出及调用步骤见模型训练与在线推理。

通用流程与资源配置 ​

Model、训练、导出和 Service 的 WITH 选项使用字符串键和值,例如 'batch_size' = '8192';SQLRec 会按参数类型解析值。

训练型模型按模型指南执行创建、训练、导出和服务部署。训练型模型的示例以 Model 定义为主,training_sample 等训练表需另行准备。TZRec 的模型结构放在 MODEL,训练参数放在 TRAIN,导出及服务资源分别在对应操作中设置。

下表的资源配置适用于 tzrec、GBDT 和 Hugging Face 自托管任务或服务;replicas 用于在线服务。

参数类型默认值说明
pod_cpu_coresInteger1Pod CPU 核数
pod_memoryString"2Gi"Pod 内存
pod_cpu_limitString-Pod CPU 上限
pod_memory_limitString-Pod 内存上限
replicasInteger1服务副本数

镜像默认值:tzrec 使用 sqlrec/tzrec,GBDT 使用 sqlrec/gbdt,版本为 ${SQLREC_VERSION}-cpu;Hugging Face 使用 sqlrec/transformers:${SQLREC_VERSION}。可用 image、version 覆盖。

外部模型 ​

外部模型用于对接已有的外部模型服务,不支持训练和导出操作。

模型名称:external

配置参数:

参数类型说明
output_columnsString输出列定义,格式:name1:type1,name2:type2

output_columns 是 Model 配置;url 是 Service 配置,用于指定实际调用的推理地址。

使用示例:

sql
CREATE MODEL external_model (
    user_id BIGINT,
    item_id BIGINT,
    category VARCHAR,
    price DOUBLE
) WITH (
    'model' = 'external',
    'output_columns' = 'score:FLOAT,label:VARCHAR'
);

CREATE SERVICE `external-service`
    ON MODEL external_model
    WITH (
        'url' = 'http://external-service:8080/predict'
    );