Vertex AI Pipelinesを活用した機械学習パイプラインの構築（コミューン株式会社）

サービス導入の背景として，プロダクトに新しくレコメンド機能を導入することになり，そのレコメンドリストを1日1回バッチで生成するための機械学習パイプラインを構築する必要がありました．当時は1人で開発していたため，運用の観点からもマネージドサービスを活用することを第一に考えていました．また，会社全体として Google Cloud を活用しているため，Google Cloud のサービスを念頭に置いていました．

• Cloud Workflows
• Cloud Composer

大きくリソース管理・コスト・開発/運用のしやすさの3つの観点を持っていました．

リソース管理

• 機械学習のワークロードに即したマシンスペックの割り当て，CPU/GPU の割り当てやインスタンスタイプの選択が簡単に設定できるか

機械学習では大きなメモリや GPU 環境での学習・推論が必要なケースが発生するため，それに対応できるかは大事なポイントでした．

コスト

• スケール時のコスト効率がどうなっていくか

日時でパイプラインを動かすユースケースを想定していたのと，我々はマルチテナント環境でパイプラインを動かす必要があり，パイプラインの数が線形に増えていく想定だったため，そのような状況でもコストが増大しすぎないかは大事なポイントでした．

開発・運用のしやすさ

• データサイエンティストや機械学習エンジニアが使いこなすための学習コストが低く，パイプラインの管理や運用が容易か
• パイプラインはコンポーネント単位で構成することができ，それぞれ独立して実行が可能か（コンポーネントに応じてデータ量や処理したい内容が異なるので，それに適したインスタンスの割り当てをしたいため）
• スケジュール実行やエラー時の再実行も簡単にできるか

日々の改善サイクルが回しにくい，もしくは回すのに手間と時間がかかるとなると改善に二の足を踏んでしまう可能性があるので，それらを避けたい想いがあり，クイックに開発運用ができるサービスかどうかも重要視していました．

上記3つの観点に加えて，世の中に先行事例としてのナレッジがそれなりにあり，今後 AI/機械学習に関する便利な機能がどんどん開発されていくだろうという期待から，Vertex AI Pipelines を選択しました．

Vertex AI Pipelines だけでなく，Google Cloud の他のサービス（Cloud Run functions, Cloud Scheduler）と組み合わせることで，我々のプロダクトに適した形でパイプラインをスケールさせることができました．これにより全てのテナントに対して機械学習によるレコメンド機能を提供することができ，今までにない新しい価値を出すことができています．

また動かしているパイプラインの数に対しては，とてもリーズナブルなコストで実現できており，コスト面でも恩恵を受けています．

Vertex AI Pipelines はその裏側で Kubeflow Pipelines (KFP) が使用されています．実装するためには，この KFP の作法に倣う必要があり，ライブラリ特有の記述を意識しないといけない点が少し苦労しました．KFP には，コンポーネントの記述方法として，Lightweight Python Components / Containerized Python Components / Container Components の3種類あります．それぞれ実装方法が異なるので，どれを選択するかも考える必要があります．我々は任意のコンテナを使用してコンポーネントを定義できるかつ柔軟性がある Container Components を採用して開発を行いました．また，導入当時は KFP v1 と v2 の過渡期でバージョンによって実装方法が異なるのが悩みでしたが，安定性を考慮して導入時は v1 で実装し，その後 EOL 対応に合わせて v2 に移行しました（今新しく実装される場合は，v2 での実装になるためこのような懸念は無いかと思います）．移行に関する話や v2 のポイントはこちらの「Vertex AI Pipelines で利用している Kubeflow Pipelines を v2 へ移行しました」という記事でも紹介させて頂いています．

Vertex AI Pipelines では，各コンポーネントが1つのコンテナとして動作するため，Dockerfile も分けて開発することができます．これを1つの Dockerfile で全てのコンポーネントに対応するか，それぞれのコンポーネントに合わせて必要最低限のライブラリをインストールするなど個別対応するかも悩み所の1つかと思います．我々は，導入当初は個別の Dockerfile を用意していましたが，管理の複雑化とメンテナンスコストが増えることから今では単一の Dockerfile を使って開発をしています（ただし，GPU を使う場合は，CPU 用の Dockerfile と GPU 用の Dockerfile を分けて運用するのが良さそうに思います）．

Vertex AI Pipelines は Google Cloud のマネージドサービスで機械学習パイプラインを構築する場合，第一の選択肢になるでしょう．周辺のエコシステムが充実していたり，それらとの連携も比較的容易に行えます．また，日々の継続的な学習を支える基盤としては問題ないサービスだと思います． 一方で，紹介したようなツールの課題や Vertex AI Pipelines を構成する KFP の思想や実装方法など一定のキャッチアップは必要になるため，チーム内でのナレッジ共有など開発運用を支援する仕組みも同時に検討するのが良いかと思います．