Amazon Bedrockの導入効果をレビューでご紹介(KDDIアジャイル開発センター株式会社-みのるん)

導入背景

一大トレンドである生成AI技術を活用して自社プロダクトを開発したいと考えており、OpenAI系の生成AIサービスを活用していましたが、ありきたりなチャットボット等はいくつか開発していたものの、ユニークな独自プロダクトの創出にはまだ漕ぎつけられていない状況でした。

また、エンタープライズ環境で求められる「プライベートなネットワークに閉じたセキュアな生成AIアプリケーション」の構築に対応するクラウドとしてMicrosoft Azureが検討に入っていましたが、社内ではAWSを用いた開発に慣れているエンジニアが多く、学習コストや環境準備などに少しハードルを感じておりました。

選定理由

1. 比較した軸・比較する際に重要視していた点

トレンド性の高い生成AI技術をエンジニアがスピーディに活用しプロダクトへ組み込める点

2. 決め手となったポイント

AWSのクラウドサービスを使い慣れたエンジニアが多く、またスピーディな開発に便利なマネージドサービスのラインナップが豊富なことから、AWS上で利用できるAmazon Bedrockの採用に至りました。
下記2点がAmazon Bedrockの採用の決め手になりました。
　　・AWSのクラウドサービスを使い慣れたエンジニアが多かった点
　　・スピーディな開発に便利なマネージドサービスのラインナップが豊富だった点

導入の成果

Amazon Bedrockを導入後、既存エンジニアのAWSスキルセットをそのまま活かし、サービスデザインから開発まで、わずか1ヶ月の期間で生成AI技術を活用したセキュアなプロトタイプアプリケーションを完成させることができました。

AWSで生成AI機能が使えることで、AWS Amplifyといった素早くアプリケーションをデプロイするためのサービスと組み合わせることにより、トレンド性の高い生成AIアプリケーションをホットなうちに開発成功させ、プレスリリース等で対外PRにも役立てることができました。

導入時の苦労・悩み

事前のユーザーヒアリングで「OpenAIのGPTシリーズに比べて後発ということもあり、言語モデルの賢さで劣るのではないかという懸念がある」というコメントを複数もらい、なぜOpenAI（on Microsoft Azure）ではなくBedrock（on AWS）なのか？という点の説得に苦労しました。

導入に向けた社内への説明

よく使う機能

アーキテクチャ

アーキテクチャの意図・工夫

AWS Amplifyを使ってホストしているWebアプリケーションからAmazon BedrockのClaudeモデルを呼び出してテキストを生成し、アプリケーションの画面に表示させて利用しています。

バックエンドのLambdaではPythonプログラムを稼働させており、LLM用のフレームワークとしてLangChainを使ってBedrockのAPI呼び出し処理をラッピングしています。

また、Claudeの応答が遅延した際にAppSyncのGraphQLタイムアウト（30秒）に抵触しないよう、Bedrockの呼び出し処理を非同期化しClaudeのレスポンスをDynamoDBに一時格納する工夫をしています。

ツールの良い点

ツールの課題点

その他

■Amazon Bedrockを使用する中で失敗したエピソード

Webアプリケーションの処理にAmazon BedrockのClaudeモデル呼び出しを組み込んだところ、まとまった量のテキスト生成に30秒程度かかり、これがちょうどAWS AppSyncのタイムアウト時間（30秒）を超えてしまうことがあるという課題がありました。この対策として、前述したような「LLM呼び出し処理の非同期化」を工夫することで回避しました。

ツールを検討されている方へ

私も競合のAzure OpenAI Serviceを用いた生成AIアプリケーション開発を含め経験しましたが、やはりAmazon Bedrockの良さはAWSというプラットフォームが使えることそのものが大きなメリットだと感じます。BedrockのGA以降、数多くのユーザーによる登壇やブログ等のアウトプットが盛んに行われており調べ物もしやすいです。
またAgents for Bedrockのように大手クラウドサービスとして先発となるマネージドサービスのローンチも進んでおり、いよいよAWSの追い上げも本格的になって実用性が日に日に増しています。すでにAWSで開発しているプロダクトへトレンドの生成AI機能を組み込みたい方や、AWSエンジニアの豊富な組織では是非Amazon Bedrockの活用を検討してみてください。