〈みずほ〉のAI推進体制：攻めと守りの両輪

藤井：私はITと金融、それぞれ半分ずつのキャリアを歩んできました。一貫して「金融×IT」のイノベーション・インキュベーションを担当してきた人間です。3年前にみずほフィナンシャルグループに入り、今のポジションにいます。CAIO（Chief AI Officer）という職名も今期から初めて使っています。他のメガバンクさんにはまだない名称ということで、珍しいのかもしれません。

みずほフィナンシャルグループは、銀行・信託・証券・アセットマネジメントをはじめとする多様な金融機能を持つ、グローバルに展開する総合金融グループです。私たちが全社的なAI変革で目指すのは、国内外でAI時代の最高レベルの金融サービスをお客さまに提供することです。

そのビジョンを実現するための強力なエンジンとして、2024年4月にAIの知見を集約する「AI CoE（センター・オブ・エクセレンス）」を発足しました。技術検証から内製開発・全社展開まで一貫して担う推進体制を構築し、「攻め」と「守り」の両輪でAI推進を加速しています。攻めの部分では社内展開や最新技術のR&Dを、守りの部分では責任あるAIを実現するためのAIガバナンス体制をしっかりと整えています。

内製開発体制と統合開発プラットフォーム「みずほWiz Base」

現場レベルでAI推進を支えるための2つの柱が、内製開発体制と開発基盤です。

内製開発ラボには、現在60人程度のエンジニアが所属しており、PO・案件組成チームとDevチーム、R&Dチームが密接に連携しています。外部ベンダーを中心とする従来の金融機関のやり方では、AIが急速に進化するこの時代に十分なスピードで対応することが難しいと考え、IT業界出身の自身の経験をいかしてこの体制を構築しました。

デジタル戦略部では、企画・推進を担うPdMやビジネスアナリスト、技術の方向性を決めて実装するテックリードエンジニア、LLMエンジニア、クラウドエンジニア、セキュリティエンジニア等、多様な職種の人材が一体となって動いています。数万人の従業員と数千万人のお客さまをサポートするプロダクトを、金融業界で求められる要件（安全性・監査性・権限管理）を満たしながら作り込み、現場で使われ続ける状態まで育てることをミッションにしています。

開発基盤として構築したのが、AWSをベースとしたAIエージェント統合開発プラットフォーム「みずほWiz Base」です。生成AIアプリケーションやAIエージェントの開発において、ネットワーク接続・ソースコード管理・認証/権限管理等の運用機能から、データカタログなどのデータ管理機能まで、必要な共通機能を網羅して提供しています。各プロジェクトの担当者がビジネスロジックに集中して開発できる環境を整えています。

特に重要なのは、AIセキュリティ・AIガバナンスの共通管理機能と、データ管理の共通機能です。インフラからミドルウェア、アプリ、AIに至るまで、開発・運用に必要なコンポーネントが連携しており、金融機関のプラットフォームとして不可欠な要件をしっかりと組み込んでいます。

AGI時代を見据えた3ステップのロードマップ

AIの指数関数的な性能向上は、今後もしばらく続くと考えています。直近サンフランシスコで開催されたAnthropic主催の「Code with Claude」に参加しましたが、そこでのエンジニアたちの言葉が象徴的でした。「自分たちは2世代先のモデルがどれくらいの性能になるかを知っていて、それに向けて開発をしている。AIがAIを再開発するような時代になってきているので、今の常識で開発してはいけない」と繰り返し語っていたことが印象的でした。

こうした世界の流れを考えると、AGIやASIの実現を不自然だと考える方が難しいと感じています。そのような世界が到来すれば、AIエージェントが連携して、自律的にかなりの部分のプロセスを稼働できるようになると考えられます。〈みずほ〉では、それに向けた3ステップのロードマップを描いています。

まずStep1では、必要とされるAIエージェントを見極め、それぞれに最適な実装を行います。Step2では、AIエージェントが揃ってきたところで横連携を始め、部分的に自律的に稼働し始める段階に移行します。そしてStep3で、非常に高性能なAIの下でAIエージェント同士が連携し、さまざまな業務を高度に実行する世界観をめざしています。

AIエージェント管理の4本柱と階層モデル

AIエージェントを大規模に展開していく上で、適切な管理フレームワークを最初から設計することが不可欠です。Anthropicからも先月、エージェント管理に関するフレームワークの考え方が公開されましたが、〈みずほ〉では4つの観点を特に重視しています。

1つ目は「パフォーマンスモニタリング」です。システム上のパフォーマンスに加え、ビジネス上のパフォーマンスをしっかり計測していく必要があります。2つ目は「コスト管理」です。開発コストはもちろん、稼働中のトークンコストも含め、AIエージェントのライフサイクル全体でかかるコストを見ていく必要があります。3つ目は「インベントリー管理」です。大規模なエージェントの展開が進むと、似たようなエージェントがあちこちに氾濫し、ユーザーがどのエージェントを使えばいいか迷うことになりかねません。どのエージェントがどこに存在しているかを体系的に管理しないと、二重投資にもつながります。4つ目は「アクセス権限管理」です。AIエージェントが人の代わりに業務を担い、社内システムにどんどんアクセスしていく時代において、どのシステムにどの権限でアクセスするかを厳密に管理することが必要です。

効率的な開発と全社展開を実現するために、AIエージェントの「階層モデル」も取り入れています。

ユーザーの指示を解釈するレベル0のオーケストレーター、特定業務ドメインを統括するレベル1の業務ドメイン統括、単一タスクを担うレベル2の業務エキスパート、そして汎用コンポーネントとなるレベル3のサブタスクモジュールという4層で構成しています。機能をコンポーネント化することで用途横断での再利用が可能になり、量産・全社展開が期待できます。

エージェント量産を支える「エージェントファクトリー」

現場ごとに独自にAI開発が進むと、要件やアーキテクチャがバラバラになり、後から連携しようとしたときに非効率になるという課題が、過去2年間の取り組みの中で見えてきました。そこで目指したのが、共通基盤「みずほWiz Base」上に標準テンプレートを用意し、開発期間の大幅な短縮と品質・セキュリティの標準化を両立させる仕組みです。

この量産の仕組みが「エージェントファクトリー」です。ノーコードとコード開発を組み合わせてエージェントを量産・管理するプラットフォームで、複雑な業務向けにはAmazon Bedrock AgentCoreなどを使ってスクラッチ開発し、クイックな開発にはDifyなどのローコード基盤を活用しています。全社ルールとして策定した「AI-Oriented Architecture（AIOA）」に基づく統制のもとで、開発支援ツールやテンプレートを提供し、開発者が安全かつスピーディーに量産を進められる体制を整えています。

自由な部分はしっかり自由にやりながら、統制を保つべき部分はテンプレート化してスピードアップする、という発想です。また最近はセキュリティへの意識も高まっており、開発（Dev）段階からセキュリティを意識する仕組みも取り入れています。

金融特化LLM「みずほLLM」の開発

汎用LLMはさまざまなタスクに高精度で回答できますが、金融の専門家が答える場合と比べると、いくらプロンプトを工夫しても本質に迫りきれない回答になってしまうことがあります。加えて、ハイパースケーラーが提供するモデルにはバージョンごとにサポート期間があり、エンタープライズ向けでは概ね1〜2年程度です。モデルのバージョンアップのたびにアプリケーションの再調整が必要になるため、一定程度バージョンを固定できる環境を作りたいという判断もありました。

こうした背景から、オープンウェイト型のモデルをベースに金融知識を埋め込んだ「みずほLLM」の開発を進めています。活用を想定しているのは、行内ルールを踏まえた手続きの参照や与信判断、稟議生成、複数の報告書を横断した分析など、汎用LLMでは対応が難しい専門的な場面です。

将来的には、高度な金融サービス開発、個別お客さまへのパーソナライズされた提案・分析の支援へとつなげていくことを構想しています。

構築アプローチは3段階です。まず、オープンモデルをベースに金融規制・法令・研修資料などを幅広く追加学習させた「金融特化LLM」を構築します。次に、与信判断や稟議生成など特定業務の理想的な回答データをさらに追加学習させた「特定領域特化LLM」へと高度化します。最終段階では、複数の特定領域特化LLMを連携させ、複雑な案件に対して各専門領域の分析結果を統合・要約して提示できる「協調型エキスパートLLM」を目指しています。

金融特化LLMに関しては、社内の膨大なマニュアルや研修資料、過去の問題集などを中心としたデータセットに合成データを加えて学習を進め、かなりの問いに答えられるところまできています。さらに、各分野の専門家から暗黙知を引き出してトレーニングデータに変換し、学習させる取り組みも始めています。

現状の成果として、Qwen3-32Bをベースにファインチューニングを行った結果、ベースモデルの正答率66%から89%まで向上しています。直近ではすでに90%を超えているとのことで、これはGPT-5.2の推論なしモデルとほぼ同等のスコアです。今後はパラメータサイズのアップ、分散学習の活用、推論プロセスの学習、そしてモデルマージ技術の活用などを通じて、さらなる精度向上を目指します。

実装事例：RM Studioとあおまるバンク

最後に、2つのアプリケーション事例をご紹介します。

1つ目は法人営業担当者向けの「RM Studio」です。

銀行の営業担当者は、専門的な知識や経験、社内に蓄積された情報を適切に活用するため、事前準備に多くの時間を必要とします。特に若手営業担当者がどのお客さまにどのような提案をすべきか判断しにくいという知識の偏在があります。RM Studioは、お客さまとの過去のリレーションや会話の状況をもとに、次の提案シナリオを生成し、提案書のドラフト作成や訪問後のレビューまでを一体化したAIアプリケーションです。若手営業担当者にとっての「頼れるバディ」として機能することをめざしています。

事前準備時間が約50%短縮し、顧客との対話時間が約3倍に増加するという効果が出ており、FY26で約3,500名の法人営業担当者への展開を予定しています。このアプリケーションにはClaudeを採用しており、Anthropicとの協力のもとで開発を進めています。

2つ目はリテール顧客向けの対話型AIエージェント「あおまるバンク」です。

ChatGPTやGemini、Claude、Copilotなどを使うコンシューマのお客さまは、AIエージェントとの会話体験にどんどん慣れてきています。〈みずほ〉としては、自分たちのタッチポイントでお客さまとAIエージェントを通じて対話し、エンゲージメントと関係性を深めていきたいと考えています。〈みずほ〉の公式キャラクターの「あおまる」を冠したこのサービスは、2026年9月の提供開始を予定しています。リリース時はFAQ検索・回答のレベルからスタートし、将来的には資産形成相談や住所変更・カード再発行などの手続き対応まで、24時間365日対応するAIコンシェルジュへと育てていく構想です。こちらのアプリケーションにはOpenAIのリアルタイムAPIを採用し、テキストと音声の両方に対応する予定です。

AIエージェントの時代において、野心的な目標を掲げ、常に最新技術を適切に使いながら全力で取り組んでいる。それが今日お伝えしたかったことです。社内の業務効率化にとどまらず、お客さまに対するAIの仕組みの提供という観点でも、セキュリティとガバナンスに気を配りながら体制を拡充していきます。

アーカイブ動画・発表資料

イベント本編は、アーカイブ動画を公開しています。ぜひご覧ください。

▼動画・資料はこちら
AI Engineering Summit Tokyo 2026
※動画の視聴にはFindyへのログインが必要です。