LangGraphによる複雑なLLMアプリケーション開発の実装

ツール導入前の課題

Large Language Model(LLM)アプリケーション開発フレームワーク"LangChain"を使ったRetrieval-augmented generation(RAG)を中心としたLLMアプリケーションを開発していました。

LLMの活用が進むにつれ、機能の追加(たとえばユーザーの入力に応じてLLMが参照するデータを自律的に切り替える)や、回答精度の向上が求められるようになり、それらを実現するために複雑な処理の実装が必要になりました。

これらをスクラッチで実装しようとすると、コードが複雑になる・開発者や要件によって実装にブレが生じる、といった課題が目立つようになりました。

どのような状態を目指していたか

• 開発者や要件に関わらずコードに統一感を持たせられること
• 簡潔さだけでなく、開発者がLLMに関する新しい技術や手法をスムーズに取り入れられること

• CrewAI
• AutoGen

• 取得が出来るだけ容易であること
• 研究開発部門なので、論文で提案されるような最新の手法を柔軟に実装出来ること

• LangGraphはLangChainの拡張であり、他のフレームワークに比べ取得が比較的容易だったこと
• RAGの発展型の実装例が公式のドキュメントで紹介されているなど、ドキュメントが豊富だったこと
• 利用ユーザーが多く関連情報の取得が比較的容易だったこと

改善したかった課題はどれくらい解決されたか

LangGraphはNodeとEdgeで構成されるグラフ構造でアプリケーションを表現するため、ある程度決まったフォーマットで開発を進められるようになりました。さらに、Multi-AgentやRAGの発展型といった最新手法を活用した複雑な処理がLangGraphを使うことで比較的容易に組めるようになりました。

どのような成果が得られたか

LLMアプリケーション開発のスピードを向上させることが出来、いくつかのアプリを社内向けにリリースすることが出来ました。さらにLLMと外部APIなどのツール連携もLangGraphでは比較的容易に実装したり追加することが出来るようになりました。

開発スピードが速く、新しい機能や概念が高頻度で追加されるため、常にキャッチアップが必要。また、過去のドキュメントの内容が最新バージョンでは通用しないことも多かったです。

LangChainを使った実装経験があれば、導入のハードルは低いと思います。 公式のドキュメントに様々な実装例が紹介されていますので、それを見ながらNotebookなどで実際に試してみると、理解が深まると思います。

• LangGraph Studioという専用のIDEを試したい。
• Multi-Agentによる自動データ分析システムの開発。