社内分析支援ツールにおけるRAG機能でのBedrock活用
株式会社エブリー / Masaya Murakami
開発部長 / バックエンドエンジニア
ツールの利用規模 | ツールの利用開始時期 | 事業形態 |
---|---|---|
11名〜50名 | 2024年7月 | B to C |
ツールの利用規模 | 11名〜50名 |
---|---|
ツールの利用開始時期 | 2024年7月 |
事業形態 | B to C |
アーキテクチャ
アーキテクチャの意図・工夫
RAG基盤の構築にあたっては以下のような処理でデータを貯めていきます。
- API経由でConfluenceやGoogleスライド上の社内データを取得
- 取得したデータをS3に格納
- Knowledge BaseでS3に格納しているデータをベクトル化して保存
この取り込みで工夫した点の一つとして、グラフや図などのデータへの前処理です。Googleスライドでまとめられている分析レポートではグラフや図を用いた説明もありますが、デフォルトの取り込み挙動だと、そうしたグラフや図は構造化されていない文字列となっており、LLMでの回答精度が低くなりがちでした。 そこで、Advanced parsing optionsという機能でモデルによる解析で非テキスト情報でもその意味を失うことなくベクトル化させることをGoogleスライド側のでは行なっています。
詳しい機能の説明は弊社テックブログの記事でも紹介しているのでぜひご覧ください。
導入の背景・解決したかった問題
導入背景
株式会社エブリーが提供するデリッシュキッチンでは、これまでの『レシピ動画アプリ』から『AI料理アシスタント』 へと変化しており、これまで以上に会社全体でAI活用が推進されています。このAI活用はサービスだけではなく、社内での業務改善にも進んでおり、その社内ツールの開発の一部機能の開発でBedrockの導入を検討していました。
ツール導入前の課題
それまで社内ではサービスに蓄積されたデータを分析し、社内での意思決定や営業活動に活用をしており、BIツールからデータ抽出を行ったり、過去様々な軸で分析した結果を知見として、ConfluenceやGoogleスライドにドキュメント化して残している状況でした。一方で以下のような課題もありました。
- 分析のスキルが必要なため、データの解釈に時間がかかる(もしくは十分に活用できていない)
- 過去レポートも、欲しい情報に辿り着くまでに手間がかかり、探してみにいく時間もあまり取れない
どのような状態を目指していたか
そこで我々は以下のようなことができることを目標にAIを活用した社内ツールの開発を検討しました。
- 自然言語から社内のデータに関する質問に対して回答できる
- すでに過去同じ分析をしている場合には関連する分析レポートを内容を参照し、それを元に回答する
特に過去レポート内容を解釈するためにはRAGの導入が必要となり、Bedrock導入の検討をし始めました。
比較検討したサービス
- OpenAI API
- Azure OpenAI
比較した軸
- セキュリティ
- 既存システムとの統合
選定理由
すでに会社のメインのクラウドがAWSだった事もあり、アカウント管理や既存システムとの統合でみても相性が良かったです。
導入の成果
Bedrockを活用することでデータの取り込みからRAG基盤を活用したユーザーからの質問の回答生成まで社内ツールの開発を1人かつ短期間で行うことができ、サービスリリースまでを早期に行うことができました。
導入時の苦労・悩み
最新の機能やモデルは比較的オレゴン、バージニア北部リージョンなどが早く、恩恵を受けようと思うと東京リージョンには作れなかったことは作り直しも含めて手間がかかりました。
導入に向けた社内への説明
上長・チームへの説明
メインで使っている同じAWS内での運用だったので、特段大きな調整はなかったが、事前に検証の上でどれくらいのコストが月にかかりそうかを見積もり、予算の中に収まりそうかのすり合わせを上長と行いました。
活用方法
よく使う機能
RAG基盤で使っているKnowledge Base周辺の機能を主に使っています。
ツールの良い点
- 自分で実装せずにRAGに関する様々な手法を簡単に組み込める
- 埋め込みモデルを使ったベクトル化
- ハイブリット検索の適用
- 参照ファイル名の返却
- AWS完結でリソース連携ができる
- 普段使ってるS3やOpenSearch、他サービスとの連携もスムーズ
ツールの課題点
- RAGでの最新の手法を使いたい場合は精度向上でのカスタマイズの余地が限定的
- 使いたい機能によってはリージョンはオレゴン、バージニア北部に縛られる場合もある
株式会社エブリー / Masaya Murakami
開発部長 / バックエンドエンジニア
よく見られているレビュー
株式会社エブリー / Masaya Murakami
開発部長 / バックエンドエンジニア
レビューしているツール
目次
- アーキテクチャ
- 導入の背景・解決したかった問題
- 活用方法