Genkitを使って30分で作るAIチャットツールの中身
参考になった
1
株式会社en-gine / 平川知秀
CTO・VPoE / CTO / 従業員規模: 10名以下 / エンジニア組織: 10名以下
| ツールの利用規模 | ツールの利用開始時期 | 事業形態 |
|---|---|---|
| 11名〜50名 | 2025年7月 | B to C |
| ツールの利用規模 | 11名〜50名 |
|---|---|
| ツールの利用開始時期 | 2025年7月 |
| 事業形態 | B to C |
アーキテクチャ
アーキテクチャの意図・工夫
Cloud RunでNext.jsを動かした。 ドメインを紐づければ、すぐにCloud Runで稼働開始可能。 フロントもバックも一つのインスタンスで実行できる。
スケーラビリティも高く、Cloud Armer（WAF）などをかましたり、Identity Platformで認証を足したりなど本番運用にも足りる拡張性を持っている。
導入の背景・解決したかった問題
導入背景
ツール導入前の課題
LLMのAPIを連携したツールを作りたい。
どのような状態を目指していたか
比較検討したサービス
- Google ADK
比較した軸
- インフラ構築
- 使いやすさ
- 複数のLLMとの連携
選定理由
- zodを使ったスキーマ定義に沿った形で、LLMのレスポンスを構造化された状態で受け取ることができる。
- Firebaseとシームレスに連携し、ログの仕組みなどもビルトインで用意されており簡単に利用できる。
- Next.jsのApp Routerを使えば、クラウドインフラも、一つ立てればフロントもバックエンドも十分な機能を持った形で始められ、かつスケーラビリティも高い。
導入の成果
どのような成果が得られたか
早ければ半日以下程度の実装でLLMとのチャットシステムくらいは作れる。 あとは構造化データをどうフロントで色付けするか、また自分がやりたいLLMの使用方法についてはどのようにチューニングして精度を出すか、LLMのモデルによっての癖を理解し、使い分けるか、が課題になってくる。
導入時の苦労・悩み
特になし。むしろびっくりするくらい簡単に始められる。 Google ADKと比べると、「複雑なAPI連携」や「自前のロガークラスを用意したい」などの場合は向いてないかもしれない。ADKの方はなんでも屋さん、というイメージ。 Genkitは単にフレームワークとして優秀で、TypeScriptやnodeのエコシステムとGoogle Cloudのインフラとシームレスに連携できる点がとても良い。
導入に向けた社内への説明
上長・チームへの説明
最終決定者なので特になし。 手軽にLLMを使ったシステム開発ができる。
活用方法
よく使う機能
1.チャットツール
2.その他LLMのAPIを活用したAIアプリケーション
ツールの良い点
- 構造化データによる型安全性
- JSONパースも不要でフロントの実装もしやすい。
- シームレスなロギング - デバッグが楽
- シンプルなインフラから始められる - Cloud Run 1つで完結。大きくなればスケーリングも楽。
ツールの課題点
- 複雑なAPI連携、自前で実装したい、TypeScriptga苦手、などの人はADKの方がいいかもしれない。
ツールを検討されている方へ
チューニングやエージェントの切り替えも簡単。 TypeScriptやNext.jsに抵抗がない方はぜひ使ってみてほしい。
今後の展望
複数エージェント連携も恐らくできるのだと思うが今回の要件を超えるのでそこまでやれてないので、機会があったらやってみたい。
株式会社en-gine / 平川知秀
CTO・VPoE / CTO / 従業員規模: 10名以下 / エンジニア組織: 10名以下
株式会社en-gine / 平川知秀
CTO・VPoE / CTO / 従業員規模: 10名以下 / エンジニア組織: 10名以下
レビューしているツール
目次
- アーキテクチャ
- 導入の背景・解決したかった問題
- 活用方法