【投票キャンペーン対象】AI行政：自治体業務を革新するAI駆動型ドキュメント生成プラットフォーム

AI行政は、AI駆動のドキュメント生成プラットフォームで、自治体の職員の方向けに普段の業務をサポートする機能を開発しています。
SaaS型アプリケーションで、ユーザーがアップロードしたファイルやURLから情報を抽出し、Google Vertex AI等を活用してカスタマイズ可能なワークフローに基づいた文書を自動生成することができます。
各テナントはRAGデータストアを持ち、組織固有の知識ベースを構築できます。
リアルタイムのチャット機能により、生成されたドキュメントの編集や改善も可能です。

アーキテクチャ選択の背景や意図

以前はOpenAPIのyamlを組み合わせてAPI Gatewayにデプロイするスキーマファーストな開発のアーキテクチャだったのですが、アプリケーションから作成されるyaml生成の煩雑さやデプロイ時間の長さからtRPCの型をBackendと共通化することでシームレスな開発体験を実現することを目指しました。

VertexAI Searchを選定した理由としては一部の設定を行うだけでRAGのチューニングから検索機能までを提供されていることに魅力を感じて選定しました。

現在の課題と今後の改善予定

非同期処理の拡充

バックグラウンド処理によるスケーラビリティ向上

LLMの生成がFEに依存していること

◆執筆：大橋芳生　@yoshiki__0428