目次
1,000人を超える規模の組織で、全社生成AI推進プラットフォームとしてDifyを導入
参考になった
0
レビュー投稿日の情報になります
株式会社メドレー / 倉林昭和
CTO・VPoE / VPoE / 従業員規模: 1,001〜5,000名 / エンジニア組織: 101名〜300名
最終更新日投稿日
| 利用プラン | ツールの利用規模 | ツールの利用開始時期 |
|---|---|---|
コミュニティ版 | 501名〜1,000名 | 2024年7月 |
| 利用プラン | コミュニティ版 |
|---|---|
| ツールの利用規模 | 501名〜1,000名 |
| ツールの利用開始時期 | 2024年7月 |
アーキテクチャ
アーキテクチャの意図・工夫
利用状況を見ながらスケールしやすい環境へ移行させていく予定ですが、 スピード感をもって進めるため以下の構成でスタートさせている。
- EC2上にDocker ComposeでDifyを立ち上げ： シンプルで迅速な導入を実現
- 最低限のマネージドサービス活用： RDS（DB）、S3（ストレージ）、SES（メール）などマネージド・サービスを活用できる箇所は最低限利用する
- CognitoとSAML認証によるセキュアなアクセス： 社内Google認証と連携し、セキュリティを確保。Difyにログインせずに扱える公開アプリについてもCognito認証でしっかりカバー
- 複数LLMの活用： Azure OpenAI、AWS Bedrock、Google Vertex AIにて、セキュリティを確保しながら、幅広いモデルを活用・検証できるように対応
- Lightsail上でのQA環境構築： Difyの頻繁なバージョンアップに柔軟に対応するため、検証環境を用意
- 公開アプリはリンク集を用意して社内推進： リンク集から活用したいAIアプリを利用いただく。Difyでアプリ開発を希望する社員へは開発ガイドを提供し、DifyのEditorアカウントを発行。
- Terraformによるインフラ管理： 環境構築をTerraformで自動化し、効率的な運用を実現
導入の背景・解決したかった問題
導入背景
ツール導入前の課題
- 各所でバラバラにChatGPT/Claudeなど有償版を利用していてノウハウがたまらない
- ガイドラインはあるもののセキュリティ面の不安から利用控えが置きてしまっている
- 各所で契約のための申請承認や経費精算などが発生していた
- GPT、Claude、Geminiなどモデルやプロンプト、RAGなどを比較・検証したいがすぐに検証できる環境がない
どのような状態を目指していたか
- 色々なモデル（GPT、Claude、Gemini）などを試せる環境、プロンプトをチューニングしながら生成AIの活用アイデアを具体化・共有できる環境、全社が生成AIに触れ合うことにより生成AIの活用を活発化していく環境
- 社内のAI活用をさらに促進するために、全従業員がより安全かつ簡易にAIを使える状態
- 各所で契約するよりも安価/安全にLLMを業務利用できる状態
比較検討したサービス
- Dify クラウド版
- ChatGPT Team plan
- Claude Team plan
- Langchainなどを活用して自作
比較した軸
- 全社が生成AIに触れ合う環境を意識していたため、そこにあった費用形態
- セキュリティが担保された環境が構築できるか
- AzureOpenAI/VertexAI/Bedrockなどセキュリティが担保しやすいモデルプロバイダーとの連携
- versionUpやメンテナンス・運用のしやすさ
- 利用者/管理者の利便性（利用に申請やアカウント登録などが必要にならない等）
選定理由
- ユーザー単位によるライセンス形態ではないので、コスト感を気にせず積極的に全社展開・活用推進ができる
- 様々なモデルが活用できる点と新しいモデルにもスピード感をもって対応される点
- 活発な開発コミュニティ・機能追加/改善が早い
- API連携が可能な点
- RAGが簡単に利用・検証できる点
- ワークフローで具体的なユースケースに対応できる
導入の成果
Difyを導入した結果、現在おおよそ半分くらいの社員が日々活用している(UUを計測している）
業務効率化のためのAIアプリも約60個ほど誕生
- アプリ例：
- 各種モデルを選択し対話
- 翻訳ツール
- 求人票作成支援
- 訴求文作成支援
- Queryビルダー
- ライティング支援
- 面談/面接支援
- アプリ例：
ノーコードで実装できる利点を活かし、非エンジニア含めて、自らプロンプトやフローを工夫し、自身の業務に沿ったアプリを作成できてきている
導入時の苦労・悩み
- 構築当初(2024/7月頃)はコミュニティ版の自社環境構築についてはあまり情報がなく、docker-compose.yamlを読み解きながら一部マネージド対応する必要があった
- 認証/権限周り
- Difyでアプリ開発時はDifyへログインが必要だが、公開アプリ利用時はログイン不要
- アプリ開発者はメッセージ履歴などが参照できてしまう
導入に向けた社内への説明
上長・チームへの説明
- 機能検証：まずは検証環境で実際に体験できる環境を準備し、関係者内で検証期間を設け、有効性を検証
- コスト検証：サーバー費用など日々かかるコストと、各種TeamPlanなどの有償サービスとのコスト比較
- Difyの活用計画の立案：開発者・利用者へどういった価値提供していくかを提示
活用方法
- モデルが選択できるAIchatアプリを作成し、新しいモデルがでたタイミングで追加しすぐに全社で活用・検証できるように対応
- 翻訳アプリ、業務特化アプリを作成して全社展開、展開毎にアプリリンク集を更新
- Slack appとも連携しslackからいくつかのアプリは実行可能
- 活用データはマスキングした上でBigQueryへ転送し、日々利用モニタリングして活用推進
よく使う機能
- スタジオによるAIフロー開発
- 各種アプリ
- API連携
ツールの良い点
- 導入コスト
- 機能アップデートが頻繁に行われる
- GUIで簡単にフローを組むことができる
- 機能を組み合わせれば、ある程度複雑な処理を組むことも可能
ツールの課題点
- 権限管理が弱い
- ツール課題ではないがChatGPT/Claudeなどの進化が早いため、利用者の要望としてChatGPTやClaudeを利用したいという声は一部でてきしまう
- ChatGPT/Claudeと比較するとChat体験の心地よさ、UIUXは劣る
ツールを検討されている方へ
zennでも発信していますのでぜひ参照ください！
今後の展望
メドレーでは「全職種が全業務で当たり前に AI を活用している企業：AI for All」を目指して、それぞれの役割や業務に合わせた AI 活用を進めています。
Devin、Dify、Cursor/Copilot/Clineなど様々なAIを活用して、価値提供の向上・ミッションに実現に向けて取り組んでいきます。
株式会社メドレー / 倉林昭和
CTO・VPoE / VPoE / 従業員規模: 1,001〜5,000名 / エンジニア組織: 101名〜300名
よく見られているレビュー
株式会社メドレー / 倉林昭和
CTO・VPoE / VPoE / 従業員規模: 1,001〜5,000名 / エンジニア組織: 101名〜300名
レビューしているツール
目次
- アーキテクチャ
- 導入の背景・解決したかった問題
- 活用方法