IVRyのインフラアーキテクチャ図

IVRyのメイン機能はAWS上で構築されており、音声通話部分、設定画面用API、バッチ処理に分かれています。極力マネージドサービスを利用し運用コストを削減しています。
フロントはCloudFrontを利用し、コンテナプラットフォームはECS Fargate、APIのアプリケーションはRuby on Railsで実装、データベースはAurora PostgreSQLを使用した構成です。
通話の量は社会的なイベントによってスパイクすることもあります。そのため、音声通話部分は設定系のAPIとは切り離し、可用性・拡張性の観点からDynamoDBを利用し、設定内容の参照や通話ログの保存を行っています。また、Blue/Greenデプロイによる切り替えを行い、ダウンタイムと機能のロールバックに関するリスクを軽減しています。音声通話の処理内でChatGPT(Azure OpenAI Service)へのリクエストを行うこともあります。
料金計算や、通話後の書き起こしなどは非同期ジョブで処理しています。
インフラ構成はIaC(Terraform)で管理し、CI/CDは主にGitHub Actionsを利用しています。

現在のアーキテクチャの課題と今後の改善予定

通話部分のUXをより向上させるべくobservabilityの向上、ボトルネックの発見/解消に取り組んでいきたいです。関連ログ/イベントなどを集約、モニタリングし、より信頼性の高いサービスを提供していきたいと考えています。また、チームの開発リソースを、価値を生み出し素早く届けるという本質に集中できる状態を維持、向上し続けたいです。

◆執筆：AI Engineer / Engineering Manager　町田 雄一郎　@machida_ivry

【サービス公式サイト】
https://ivry.jp/