目次
Vertex AI Searchで爆速でRAGシステム構築とスムーズなデータソース変更
参考になった
1
レビュー投稿日の情報になります
パブリックテクノロジーズ株式会社 / yoshiki-0428
テックリード / フルスタックエンジニア / 従業員規模: 11名〜50名 / エンジニア組織: 10名以下
最終更新日投稿日
| 利用機能 | ツールの利用規模 | ツールの利用開始時期 | 事業形態 |
|---|---|---|---|
VertexAI Search | 10名以下 | 2025年4月 | B to B |
| 利用機能 | VertexAI Search |
|---|---|
| ツールの利用規模 | 10名以下 |
| ツールの利用開始時期 | 2025年4月 |
| 事業形態 | B to B |
アーキテクチャ
アーキテクチャの意図・工夫
まずGCS Simple RAGという形で顧客に一旦使えるRAGを提供をし、その後にデータソースを切り替えて賢くChunks化したリソースを保存したデータソースを切り替えることでアプリケーション側は移行コストがほぼなく切り替えれること
導入の背景・解決したかった問題
導入背景
ツール導入前の課題
- RAGシステムの独自構築の煩雑さと管理の手間が課題
どのような状態を目指していたか
- VertexAI上でテナントレベルでの制限ができる状態でのRAG検索体験
- 関連度の高い内容のドキュメントのフィルタリングができること
比較検討したサービス
- PostgresでのVector storeでの独自DBでの構築
比較した軸
- データソースの切り替えのしやすさ
- プロダクトの早い段階でのRAGシステムを要求されており、GCSにファイルを保存、VertexAIに読み込ませる簡易的なRAGからChunksを分けて保存を行う本格的なRAGへの切り替えがスムーズにできるかどうか
選定理由
- 自前でVector storeを立てることなく、既存リソース（Google Drive, Google Cloud Storage, BigQuery）の様々なデータソースを活用ができること
- 重要視していた点でも記載していますが、ユーザからはすぐに使えるRAG機能の実現を求められており、VertexAIを呼び出すというインターフェースは変わらないためアプリケーション側はシステム変更することなくデータソースの切り替えが可能な点
- 従来のGoogle検索の優秀さ
導入の成果
改善したかった課題はどれくらい解決されたか
- GCSへの直接アップロードでの簡易RAGで初期リリースでは約3営業日程度で実装＆リリースが完了できたこと
- テナント別の制限が可能ということ
導入時の苦労・悩み
- RAG検索を行う際にNodeライブラリが充実していなかったため、fetchでの実装をしたこと ※discovery engineでのライブラリは利用できる
導入に向けた社内への説明
上長・チームへの説明
既存リソースが利用できること、独自でChunksを分けてRAG登録をしてもインターフェースは変わらないため利点が多いこと
活用方法
よく使う機能
VertexAI Search
ツールの良い点
- 簡易RAGシステムのスピード感ある導入ができる点
- 他データソースへの切り替えが容易
- チューニングが可能な点
- ドキュメントに対してメタデータを設定して検索可能なIndexを設定できるところ
ツールの課題点
- ユーザクエリの最適化はアプリケーション側で行わないと行けない点
- いわゆるmulti hop queryは自前で行う必要がある
- Terraformでのリソース作成に失敗することがあり、手動作成からのimportがおすすめ
今後の展望
- BigQuery等のカラムに新しくタグのような項目を追加し、更に汎用性が高いRAG検索機能を作り込む予定です
パブリックテクノロジーズ株式会社 / yoshiki-0428
テックリード / フルスタックエンジニア / 従業員規模: 11名〜50名 / エンジニア組織: 10名以下
受託開発会社での開発を経験後、フリーランス、楽天、LINEヤフーなどのメガベンチャーを渡り歩き、現在はパブリックテクノロジーズでテックリードをしています
よく見られているレビュー
パブリックテクノロジーズ株式会社 / yoshiki-0428
テックリード / フルスタックエンジニア / 従業員規模: 11名〜50名 / エンジニア組織: 10名以下
受託開発会社での開発を経験後、フリーラン...
もっとみる
レビューしているツール
目次
- アーキテクチャ
- 導入の背景・解決したかった問題
- 活用方法