生成AIの活用を社内に広げるために。Dify導入によるPoC環境の整備

ツール導入前の課題

社内で生成AIチームが立ち上がり、社内DXを推進するための手段として生成AIの活用を検討していました。しかし、生成AIが実際にどの程度業務課題の解決に使えるかを検証するための事前検証環境の整備が一つのハードルでした。 シンプルなチャットボットを試すだけでも、フロントエンドやバックエンドの実装が必要で、検証自体にたどり着く前に大きな手間がかかってしまいます。本来の目的である「タスクに対する生成AIの有用性検証」にフォーカスできる環境が必要だと感じていました。

どのような状態を目指していたか

今後はAIエンジニア以外のメンバーも生成AIを活用し、プロダクトへの組み込みや社内業務改善に関与していくと想定していました。その中で、「どのLLMを選ぶか」は精度やコストに関わる重要なポイントです。 誰でも簡単にモデルを切り替えて比較検証できたり、ワークフローを構築して試行錯誤できる環境を整えることを目指していました。

特に比較したサービスはありません。

特に比較はしていませんが、選定にあたって以下のようなポイントは意識していました。

• 複数のLLMが柔軟に扱えること
• セキュリティ要件を満たせること（特に社内データの取り扱い）
• ノーコード・ローコードでプロトタイピングができること

以下の点が導入の決め手となりました。

• 複数のLLMに対応しており、モデルの切り替えが容易である（OpenAI、Anthropic、Google Geminiなど）
• セルフホスティングが可能で、データの取り扱いを自社でコントロールできるため、セキュリティ面でも安心である
• 社内ナレッジを活用するためのRAG機能が標準で搭載されている
• ノーコードでワークフローを組み、数時間でプロトタイプの作成が可能である

改善したかった課題はどれくらい解決されたか

「誰でも簡単に、ローコードでLLMの事前検証が行える環境を整える」という目的は、Difyの導入によって実現できました。少ない学習コストで生成AIを試せるようになりました。

どのような成果が得られたか

実際にチームメンバーにDifyを利用してもらったところ、RAGを活用したチャットアプリケーションのプロトタイプを、わずか数時間で構築することができました。 GUIベースで直感的に操作でき、コードの記述も不要なため、プロトタイピングにかかる工数を大幅に削減でき、社内における生成AI活用のハードルが下がったと感じています。 さらに、想定ユーザーにプロトタイプを早期に試してもらい、フィードバックをもとに改善するというサイクルもスムーズに回せるようになりました。

特に大きな困難はありませんでした。

Difyは、生成AIのプロトタイピングや検証を高速かつローコードで実現できる実用的なツールで、セルフホスティングが可能な点も大きな魅力です。 一方で、アプリケーションの公開については、アクセス制御やログ管理などは必要に応じて外部ツールと組み合わせる必要があるため、どのフェーズまでをDifyで担うかは検討しておく必要があります。

現在は、最小限の試行が素早く行える環境が整っていますが、今後はLangSmithとの連携などを通じて、Difyで構築したLLMアプリケーションの評価をより効率的に行える環境を整えていきたいと考えています。