WED株式会社でのCloudRun活用事例
WED株式会社 / thimi0412
EM / データエンジニア / 従業員規模: 51名〜100名 / エンジニア組織: 11名〜50名
| 利用機能 | ツールの利用規模 | ツールの利用開始時期 | 事業形態 |
|---|---|---|---|
CloudRunService, CloudRunJobs | 11名〜50名 | 2022年6月 | B to C |
| 利用機能 | CloudRunService, CloudRunJobs |
|---|---|
| ツールの利用規模 | 11名〜50名 |
| ツールの利用開始時期 | 2022年6月 |
| 事業形態 | B to C |
アーキテクチャ

アーキテクチャの意図・工夫
CloudRunJobs
基本的にCloudComposer(Airflow)でETLの処理や各種推論Jobを実行できるように設計していて、CloudRunExecuteJobsOperatorを用いてCloudRunJobを実行しています。実行する際に環境変数を上書きして実行することができるので、動的な値(実行日など)をAirflowから渡してCloudRunJobを実行できるようにしています。AirflowのDynamic Task Mappingを使用すれば並列実行も可能です。
以下のブログで解説をしております。
Cloud Run JobsをAirflowで動的に実行する
CloudRunService
主に社内ツールをデプロイして使用しています。試験的なAPIやBigQueryのremote functions等も作成しています。
BIツール(Metabase)はCloudRun上にデプロイしています。
以下のブログで解説をしております。
Terraformで構築するMetabase on Cloud Run 〜GKEからの移行事例〜
導入の背景・解決したかった問題
導入背景
ツール導入前の課題
- CloudComposer(Airflow)内でPythonを使用した処理を実行していましたが、必要なPythonのライブラリをその都度入れないといけなく、管理が煩雑になってしまう
- 社内ツールを簡易的に立ち上げるサーバーが欲しかった
どのような状態を目指していたか
- CloudComposer(Airflow)からCloudRunJobを呼び出し、コンテナベースでjobを実行できるようにする
- 簡易的なWebサーバーを立ち上げられる
- 社内で使用しているBIツール(Metabase)をCloudRunJobsに移行したい
選定理由
開発のしやすさ
基本的にメンバーはローカルでDockerを用いて開発を行うので、ローカルで動くものがそのままCloudRun上でも動くので開発が行いやすいです。
各GoogleCloudのリソースとの連携
インフラリソースは全てTerraformで管理をしていてCloudRunもTerraformで管理しており、各サービスやjobがCloudRunServiceのAPIを叩いたり、CloudRunJobsを実行したりしています。
導入の成果
改善したかった課題はどれくらい解決されたか
- CloudComposer(Airflow)からCloudRunJobsを動かせるようになり、時間のかかる処理やGPUを使用する機械学習の推論を、依存関係を定義したうえで実行できるようになった
- 簡易的な社内ツールやAPIサーバー用にデプロイできるようになった
導入時の苦労・悩み
GPUの使用
アップデートでGPUが使えるようになりましたが、GPUを指定するとCPUやメモリの最低ラインが変えられないのでコスト的に無駄が出てしまいます。
導入に向けた社内への説明
上長・チームへの説明
元々メンバー間でも一部のjobをCloudRunJobsに移行したいとの希望がありました。 基本的にDockerで開発をしており、各種CloudRunを作成する際に必要なリソースをはじめからTerraformで作成していたので、メンバーもそれを真似て各自で開発からデプロイまで行うことができました。 サーバー運用時は、稼働インスタンスを0台にすればコストがかからない点も魅力です。
活用方法
よく使う機能
- CloudRunJobs
- CloudComposer(Airflow)から実行
- CloudRunService
- 社内ツールやAPIサーバーを作成
ツールの良い点
- 開発からデプロイまでが容易
- スモールスタートして導入しやすい
ツールの課題点
- GPUの設定
ツールを検討されている方へ
簡易的なサーバーや各種batch処理等を作成したい場合はとてもいいサービスだと思います。各種GoogleCloudのサービスとも連携が取れているのでおすすめです。
今後の展望
CloudRunJobsとCloudRunServiceの両方でGPUが使用できるようになったため、機械学習の学習や推論ジョブ、さらには推論サーバーとしての活用も期待できます。
WED株式会社 / thimi0412
EM / データエンジニア / 従業員規模: 51名〜100名 / エンジニア組織: 11名〜50名
よく見られているレビュー
WED株式会社 / thimi0412
EM / データエンジニア / 従業員規模: 51名〜100名 / エンジニア組織: 11名〜50名
レビューしているツール
目次
- アーキテクチャ
- 導入の背景・解決したかった問題
- 活用方法


