Amazon Bedrockを活用したRAG導入の試み
株式会社助太刀 / 市川俊太
シニアマネージャー / バックエンドエンジニア / 従業員規模: 101名〜300名 / エンジニア組織: 11名〜50名
ツールの利用規模 | ツールの利用開始時期 |
---|---|
51名〜100名 | 2023年11月 |
ツールの利用規模 | 51名〜100名 |
---|---|
ツールの利用開始時期 | 2023年11月 |
アーキテクチャ
アーキテクチャの意図・工夫
今回、社内情報検索システムの構築にあたって、情報の一元的なアクセス基盤を整えることが最優先でした。そのため、Amazon BedrockとAmazon Kendraを組み合わせたアーキテクチャを選定しました。
Amazon Kendraを採用した理由
- 機械学習を活用して社内ドキュメントから関連性の高い情報を引き出す能力に優れていたためです。
- 当初はGoogle Driveに保存されたドキュメントを直接インデックス化しようとしましたが、動作の安定性に問題がありました。
- そのため、Amazon S3にドキュメントを移行し、S3コネクタを使ってKendraにインデックスを作成する方法に変更しました。
Amazon Bedrockを採用した理由
- 既存のAWSインフラとの統合が容易であり、セキュリティやスケーラビリティの面でも優れていると判断したからです。
- Bedrockが提供するAnthropicのClaudeモデルは質問に対する応答精度が高く、Kendraで得られた検索結果をさらに精度の高い情報に仕上げるのに最適でした。
- これにより、社員が必要とする情報を迅速かつ的確に提供できるようになりました。 Amazon BedrockとAmazon Kendraを組み合わせることで、社内情報検索システム全体のパフォーマンスを最適化することを目指しました。
導入の背景・解決したかった問題
導入背景
ツール導入前の課題
当時、助太刀では社内に蓄積された膨大な情報を効率的に検索・活用する手段が不足していました。従業員が必要な情報にアクセスするためには、複数のシステムやドキュメントを手動で検索する必要があり、その過程で多くの時間と労力がかかっていました。特に以下の点で問題が顕在化していました。
情報の分散とアクセスの困難さ: 社内情報はGoogle Drive、Slack、社内Wikiなど様々なプラットフォームに散在しており、どこにどの情報があるのかを把握するだけでも大きな負担でした。
検索の精度と関連性の低さ: 従来のキーワードベースの検索では、関連性の高い情報を素早く見つけることが難しく、必要な情報にたどり着けないケースが多々ありました。
業務効率の低下: 情報検索にかかる時間が長引くことで、業務の効率が低下し、迅速な意思決定や問題解決が妨げられていました。
どのような状態を目指していたか
これらの課題を解決するために、助太刀では以下のような目標を掲げてツールの導入を検討しました。
統一された情報アクセス基盤の構築: 社内に散在するすべての情報に対して、統一された検索インターフェースを提供し、情報の一元的な管理と効率的なアクセスを可能にすること。
高度な検索機能の実現: 単なるキーワード検索ではなく、質問に基づいて適切な情報を抽出し、関連性の高い結果を提供することで、検索時間の短縮と業務効率の向上を図ること。
柔軟で拡張性のあるシステム: 将来的な情報量の増加や新たなデータソースの追加にも対応できる、柔軟でスケーラブルな検索システムを構築すること。
比較検討したサービス
- OpenAI
選定理由
AWSとの統合性: 助太刀では、すでにインフラの大部分をAWS上で運用しており、新たに導入するシステムもこのエコシステム内で統一的に管理したいと考えていました。Amazon Bedrockを利用することで、既存のAWSサービス(例えば、Amazon Kendra、Amazon S3、AWS Cognitoなど)とスムーズに連携できる点が大きなメリットでした。
セキュリティとコンプライアンス: AWSは高いセキュリティ基準とコンプライアンスを提供しており、特に企業向けの機密データを扱う際に安心感があります。Amazon Bedrockを選択することで、既存のセキュリティポリシーに準拠しながら、RAGを実装することが可能となりました。
スケーラビリティ: 将来的に情報量やアクセス数が増加しても、AWSのスケーラブルなインフラを活用して、システム全体のパフォーマンスを維持しつつ拡張できる点も重要な決め手でした。
これらの理由から、OpenAIも非常に有力な候補ではありましたが、最終的にはAmazon Bedrockが最適な選択肢であると判断しました。
導入の成果
どのような成果が得られたか
導入の結果、当初抱えていた課題の多くは解決されました。
- まず、社内に分散していた情報へのアクセスが大幅に改善され、社員が必要な情報に素早くアクセスできるようになりました。
- 具体的には、全社員の約2/3が新しい検索システムを利用しており、月平均で約70件の検索クエリが発行されるなど、システムの活用が進んでいます。
- この結果、業務効率が向上し、社員が日常業務で直面する様々な疑問や問題に対して、迅速かつ効果的に対応できるようになりました。
- たとえば、Slackの招待プロセスの簡素化や、内装業者への提案作成支援など、実務に直結する支援が得られています。
- 導入後に収集したメトリクスからも、システムが社内業務の効率化に寄与していることが確認できています。
- これにより、社内の情報管理において、大きな前進を果たせたと感じています。 とはいえ、導入してまだ間もないため、長期的な成果や費用対効果については、今後さらに評価を進めていく予定です。今後は、利用ユーザである社員からのフィードバックをもとに、さらにシステムの精度を高めていく予定です。
導入に向けた社内への説明
上長・チームへの説明
Amazon Bedrockの導入を提案する際、最も重視したのは、コストよりも早期のリリースを優先し、実際に社内で使用してその効果を検証することでした。
- 社内情報検索の効率化が急務だったため、できるだけ早くシステムを導入し、そのフィードバックを元に改善を進めることが最優先の課題でした。
- また、リリース後に利用状況や効果を分析し、必要に応じてシステムの見直しや再構築を行う可能性があることも伝えました。
- まずは最小限の機能でリリースし、その後、段階的に改善を図るアプローチを採用しました。
- そのため、導入当初は費用対効果よりも、システムを迅速に導入してフィードバックを得ることを重視し、今後の展開を検討していく方針を採りました。
活用方法
よく使う機能
Amazon Bedrockを利用する際、最もよく使うのはAPIを通じたLLM(大規模言語モデル)の呼び出し
ツールの良い点
使いやすさと親しみやすさ
Amazon Bedrockは、AWSを普段から使用しているエンジニアにとって非常に扱いやすいツールです。既存のAWSリソースとの統合が簡単に行えるため、新しいシステムにすぐに組み込むことができ、開発をスムーズに進めることができました。APIを通じて簡単にモデルを呼び出せるため、使い方を覚える手間が少なく、とても便利でした。
豊富なモデルの選択肢
Bedrockには複数の高性能モデルが揃っており、プロジェクトに応じて最適なモデルを選ぶことができます。
ツールの課題点
リージョンによる制約
Amazon Bedrockにはリージョンによる制約があります。特に東京リージョンでは、他のリージョンに比べてモデルの更新が遅れることがあり、最新のモデルをすぐに使用できないことがありました。これにより、場合によっては、精度がやや劣るモデルを使用せざるを得ないことがあり、プロジェクトの成果に影響を与える可能性があります。このリージョンの制約は、注意して考慮する必要があります。
株式会社助太刀 / 市川俊太
シニアマネージャー / バックエンドエンジニア / 従業員規模: 101名〜300名 / エンジニア組織: 11名〜50名
1987年生まれ。東京都在住。CS専攻大学院卒業後、2年間フリーターとして活動(バンド活動)。 2015年からWebシステム関連の制作会社にてソフトウェアエンジニアとしてのキャリアをスタート。 その後、複数のスタートアップ企業にてソフトウェアエンジニアとして従事。2022年2月に株式会社助太刀に入社。 https://www.ichikawa.me/
よく見られているレビュー
株式会社助太刀 / 市川俊太
シニアマネージャー / バックエンドエンジニア / 従業員規模: 101名〜300名 / エンジニア組織: 11名〜50名
1987年生まれ。東京都在住。CS専攻大...
レビューしているツール
目次
- アーキテクチャ
- 導入の背景・解決したかった問題
- 活用方法