ACES Meetのインフラアーキテクチャ

株式会社ACESは「アルゴリズムで、人の働き方に余白を作る」というミッションを掲げ、テクノロジーで社会課題の解決を目指す会社です。
弊社にはDXパートナーサービスとAIソフトウェアの2つの事業部があります。今回はAIソフトウェア事業部でサービス提供を行っている「ACES Meet」というプロダクトの音声認識技術を支えるインフラアーキテクチャについて紹介します。
ACES Meetのプロダクト開発では、ソフトウェアとアルゴリズムの開発メンバーが同じチームで開発を行っています。ユーザーのフィードバックが直接届く環境で、素早くPDCAサイクルを回しながらアジャイル開発を行っています。

アーキテクチャ設計について

ACES Meetは高精度なアルゴリズムで会議を可視化するAI議事録ツールです。Zoom、Google Meet、Teamsなどのビデオ会議ツールやZoom Phoneなどの電話ツールのデータを取り込み、自動で音声認識を行って結果を出力しています。
ACESの音声認識モデルは社内のアルゴリズムエンジニアが開発しています。外部のオープンウェイトのモデルをベースとして、自社で作成・準備したデータでFinetuneを行ったモデルを作成しています。定量・定性的な評価を行い、継続的に精度を改善する仕組みを導入しています。
また、アルゴリズムのソースコードは社内ライブラリ化されており、ACES Meetのプロダクトだけでなく、他のプロジェクト・プロダクトでも再利用可能な設計となっています。

ACES Meetでは音声認識モデルの推論処理と学習処理をAWS上で動作させています。推論処理と学習処理は共にAWS Batchを利用しています。AWS BatchのバックエンドにはEC2を利用し、GPUサーバー上でDockerコンテナを動かしています。
AWS Batchを利用することで、EC2（GPUサーバー）をスケーラブルに起動・停止することが可能になります。利用状況に応じたEC2の起動・停止だけでなく、ジョブ及びキューの管理をAWSがマネージドで行ってくれるため、メンテナンス工数を下げながら最適な運用ができています。

SaaSを運用していくにあたり、適切なマルチテナント管理が重要になります。
ACES Meetでは辞書機能という名前で、テナント毎のFinetuneを提供しています。これは、あらかじめ用意されている各業界の単語リストを選択し、さらにユーザーが登録した単語リストを組み合わせて、テナント毎にモデルの学習処理を実行します。
学習が完了するとテナント毎に学習済みモデルが作成されるため、推論処理ではこの事前学習済みモデルを使って各テナントで音声認識を行います。それにより、各テナントの会議の文字起こしに、各業界の単語リストやユーザーが登録した単語リストの出現率が向上することを見込めます。
学習処理・推論処理いずれにおいても、テナントの分離を厳格に実施しています。インフラレベルで処理を分離し、データやモデルが混在しないように管理しています。例えば、1つのコンテナの中で1つの処理を行い、学習・推論処理が終了したらコンテナを都度破棄することで余計なデータが残らないようにしています。

また、ユーザーの会議や通話のデータ（録画・録音データ）はS3に保管しています。この録画・録音データに対してACES従業員のアクセスを禁止するため、インフラ基盤で技術的な対策を実施しています。
S3バケットのバケットポリシーを設定し、APIサーバーのIAMロールからのみS3のオブジェクトへのGETリクエストを許可しています。これにより、ACES従業員がAWSのマネジメントコンソールやAWS CLI等からS3バケットにアクセスした際にはGETリクエストがブロックされます。

今後の展望や取り組み予定

ACES Meetは音声認識を中心とした複数のアルゴリズムを活用し、会議の可視化や業務の効率化ができるツールとして、さらなる開発を続けていきます。
今後は以下のような取り組みを考えています。

• 対面会議など、同一マイク内の話者分割の精度を向上する。
  • アルゴリズムの処理だけでなく、ソフトウェアのUI/UXを含めて、オンライン会議だけでなく対面会議のような全員が集まるような会議でも適切に文字起こしが表示される。
• アルゴリズムのデプロイを安全かつ高頻度で行えるようにする。
  • 推論処理や学習処理の実行には時間がかかるため、動作確認を含めるとデプロイ作業のリードタイムが長時間発生する。品質を担保しつつ素早くデプロイするための環境を整備していく。

また、今回紹介できませんでしたが、ACES Meetでは音声認識やその他の様々な処理において生成AI（LLM）をフル活用しています。生成AIの活用をさらに加速するための取り組みも常に行っています。（例：AIワークフロー基盤・RAG基盤・自律的なAIエージェント基盤の構築など）

興味がある方は是非一緒に働きましょう！
https://recruit.acesinc.co.jp/

◆執筆：三田村 健　株式会社ACES 共同創業者/ソフトウェアエンジニア　@Ken_Mitamura