0

0

如何在 Vertex AI Pipeline 中集成自定义预测例程进行批量推理

花韻仙語

花韻仙語

发布时间:2026-02-05 10:41:01

|

742人浏览过

|

来源于php中文网

原创

如何在 Vertex AI Pipeline 中集成自定义预测例程进行批量推理

本文介绍如何将已部署在 vertex ai model registry 中的自定义预测例程(cpr)无缝接入 kubeflow pipelines,通过官方预构建组件完成端-to-end批量预测任务,避免手动构造模型对象导致的类型不匹配问题。

在 Vertex AI 中使用自定义预测例程(Custom Prediction Routine, CPR)时,模型逻辑被封装在容器镜像中,并注册至 Model Registry(而非存储于 GCS),因此无法通过常规 ImporterComponent(依赖 artifact_uri)引入 Pipeline。直接编写自定义 importer 并返回 aiplatform.Model 实例会导致类型错误——因为 ModelBatchPredictOp 期望的是符合 KFP 类型系统规范的 Model Artifact,而非原始 Python SDK 对象。

✅ 正确做法是:从 Model Registry 中以声明式方式获取已注册模型的 Artifact,推荐使用 ModelGetOp(v1.2.0+ 版本推荐)或兼容旧版的 GetVertexModelOp。

✅ 推荐方案:使用 ModelGetOp

该组件会根据模型资源名称(model_name)从 Vertex AI Model Registry 中检索模型,并输出标准 Model Artifact,与 ModelBatchPredictOp 完全兼容:

Artifact News
Artifact News

由AI驱动的个性化新闻推送

下载
from google_cloud_pipeline_components.v1.model import ModelGetOp
from google_cloud_pipeline_components.v1.batch_predict_job import ModelBatchPredictOp
from kfp.dsl import pipeline

@pipeline(name="cpr-batch-prediction-pipeline")
def cpr_batch_prediction_pipeline(
    project: str = "your-project-id",
    location: str = "us-central1",
    model_display_name: str = "my-cpr-model",
    gcs_source_uris: list = ["gs://your-bucket/input/data.csv"],
    gcs_destination_prefix: str = "gs://your-bucket/predictions/",
):
    # Step 1: 从 Model Registry 获取模型(输出标准 Model Artifact)
    get_model_task = ModelGetOp(
        model_name=f"projects/{project}/locations/{location}/models/{model_display_name}",
        project=project,
        location=location,
    )

    # Step 2: 执行批量预测(自动适配 CPR 模型)
    batch_predict_task = ModelBatchPredictOp(
        job_display_name="cpr-batch-predict",
        model=get_model_task.outputs["model"],
        gcs_source_uris=gcs_source_uris,
        gcs_destination_output_uri_prefix=gcs_destination_prefix,
        instances_format="csv",         # 支持 csv/jsonl/records等,需与CPR输入解析逻辑一致
        predictions_format="jsonl",      # 输出格式建议用 jsonl 便于后续解析
        starting_replica_count=1,
        max_replica_count=3,
        machine_type="n1-standard-4",
    )
? 关键说明:model_name 必须为完整资源路径(如 projects/my-proj/locations/us-central1/models/1234567890123456789),但更推荐使用 display_name 查询后动态构造。若需运行时解析,可在 pipeline 外部预先获取(非 pipeline 内部调用 SDK),或使用 kfp.dsl.importer + artifact_uri 的替代路径(仅当模型启用“导出为 Artifact”功能时适用,CPR 默认不支持)。

⚠️ 注意事项

  • ❌ 不要自行创建 aiplatform.Model 实例并试图注入 pipeline —— 这违反 KFP 的 Artifact 类型契约,必然触发 InconsistentTypeException。
  • ✅ 确保模型已在 Model Registry 中成功注册(可通过 Console 或 aiplatform.Model.list() 验证)。
  • ✅ instances_format 和 predictions_format 必须与 CPR 容器中 predict() 方法的输入/输出协议严格匹配(例如:若 CPR 接收 JSONL 则不可设为 csv)。
  • ? 若使用较老版本 google-cloud-pipeline-components(

✅ 总结

将 CPR 集成进 Vertex AI Pipeline 的核心原则是:复用 Model Registry 作为可信模型源,借助官方类型安全的 ModelGetOp 组件桥接 SDK 世界与 Pipeline Artifact 世界。这种方式无需维护额外镜像、不绕过权限控制、天然支持模型版本追踪与审计,是生产级 MLOps 流水线的最佳实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
console接口是干嘛的
console接口是干嘛的

console接口是一种用于在计算机命令行或浏览器开发工具中输出信息的工具,提供了一种简单的方式来记录和查看应用程序的输出结果和调试信息。本专题为大家提供console接口相关的各种文章、以及下载和课程。

417

2023.08.08

console.log是什么
console.log是什么

console.log 是 javascript 函数,用于在浏览器控制台中输出信息,便于调试和故障排除。想了解更多console.log的相关内容,可以阅读本专题下面的文章。

510

2024.05.29

微信网页版文件传输助手教程合集
微信网页版文件传输助手教程合集

本专题整合了微信网页版文件传输助手教程、入口等等内容,阅读专题下面的文章了解更多详细内容。

15

2026.02.04

微信文件过期恢复教程
微信文件过期恢复教程

本专题整合了微信文件过期恢复方法、技巧教程,阅读专题下面的文章了解更多详细内容。

9

2026.02.04

抖音网页版入口与视频观看指南 抖音官网视频在线访问
抖音网页版入口与视频观看指南 抖音官网视频在线访问

本专题汇总了抖音网页版的入口链接、官方登录页面以及视频观看入口,帮助用户快速访问抖音网页版,提供免登录访问方式和直接进入视频播放页面的方法,确保顺利浏览和观看抖音视频。

91

2026.02.04

学习通网页版入口与在线学习指南 学习通官网登录与使用方法
学习通网页版入口与在线学习指南 学习通官网登录与使用方法

本专题详细汇总了学习通网页版入口与登录方法,提供学习通官方网页端入口、学生登录平台、网页版使用指南等内容,帮助用户快速稳定地登录学习通官网,顺利进入学习平台,提升学习效率和体验。

16

2026.02.04

Python Web 框架 Django 深度开发
Python Web 框架 Django 深度开发

本专题系统讲解 Python Django 框架的核心功能与进阶开发技巧,包括 Django 项目结构、数据库模型与迁移、视图与模板渲染、表单与认证管理、RESTful API 开发、Django 中间件与缓存优化、部署与性能调优。通过实战案例,帮助学习者掌握 使用 Django 快速构建功能全面的 Web 应用与全栈开发能力。

13

2026.02.04

Java 流式处理与 Apache Kafka 实战
Java 流式处理与 Apache Kafka 实战

本专题专注讲解 Java 在流式数据处理与消息队列系统中的应用,系统讲解 Apache Kafka 的基础概念、生产者与消费者模型、Kafka Streams 与 KSQL 流式处理框架、实时数据分析与监控,结合实际业务场景,帮助开发者构建 高吞吐量、低延迟的实时数据流管道,实现高效的数据流转与处理。

6

2026.02.04

Golang 容器化与 Docker 实战
Golang 容器化与 Docker 实战

本专题深入讲解 Golang 应用的容器化与 Docker 部署,涵盖 Docker 基础概念、容器构建与镜像管理、Go 应用的 Dockerfile 编写、跨平台容器部署与优化、Docker Compose 和 Kubernetes 部署工具。通过实际案例,帮助学习者掌握 如何将 Golang 应用容器化并实现高效部署与管理,提升系统的可扩展性与运维效率。

7

2026.02.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 3.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号