金融機関のエージェントAIをどう管理するか　FSBが最終報告書を公表

金融安定理事会（FSB）は2026年10月15日、最終報告書「AIの責任ある導入に関する健全な実務慣行」を公表した。銀行、保険会社、資産運用会社などを対象に、12項目の実務慣行を提示し、エージェントAIの行動を追跡する記録、人間による監督、外部のAI提供事業者への依存を管理する方法を示した。

■組織全体の統治からAIの運用までをカバー

FSBは、各国の金融当局や国際基準設定主体の取り組みを国際的に調整する組織で、事務局はスイスのバーゼルに置かれている。今回の実務慣行は法的拘束力を持たない参照枠であり、金融機関の取締役会と上級経営陣に、経営戦略、技術導入、リスク管理を検討する際の活用を強く促している。

12項目のうち、第1〜4項は戦略と監督、責任の明確化、AI利用の文書化、技術の進展に応じた組織の適応を扱う。第5〜12項は、用途の重要性とリスクの評価、モデルの選定、データ管理、説明可能性と透明性、性能管理、人間による監督、サイバー・ICTリスク、第三者AIリスクを対象とする。

適用の基本となるのは、金融機関の規模や複雑さ、AIを使う業務の重要性に応じて管理の強さを調整する考え方だ。重要業務や高リスクの用途には手厚い管理を組み合わせ、小規模な機関や影響の小さい用途には、それぞれに適した実務を選んで適用する。

FSBは6月10日に市中協議案を公表し、7月22日までに約160件の回答を受けた。最終報告書は12項目の構成を維持しながら、エージェントAI、文書化、第三者への依存について説明を拡充した。保険会社、資産運用会社、決済サービス事業者などの事例も追加している。

日本では金融庁が10月16日、最終報告書の公表を案内した。報告書の日本語名称も「AIの責任ある導入に関する健全な実務慣行」として紹介している。

■エージェントの判断と行動を追跡できる記録

エージェントAIは、与えられた目標に向けて複数の作業を計画し、ツールや外部システムを使いながら実行するAIだ。FSBは金融分野で、不正検知、顧客対応、投資関連業務などにAIを活用する事例を紹介し、自律性の高いシステムに固有の管理上の論点を整理している。

文書化を扱う第3項では、説明責任と追跡可能性を支える記録を重視する。エージェントAIについては、判断、中間の作業、人間への引き継ぎ、外部環境とのやり取りを、個々のエージェントにひも付けて把握できるようにする考え方を示した。

こうした記録は、最終的な出力に至るまでの行動を再構成し、権限の範囲を守っていたかを確認するために役立つ。利用規模の拡大に応じ、リスクに影響する判断や作業を中心に記録するなど、ログの量にもリスクベースで対応する。

報告書の不正検知事例では、ある国際的な大手銀行が、新たな不正の兆候を分析し、検知ルールを提案するエージェントAIを導入したという。提案された新しいルールは、銀行の担当チームが審査・承認してから適用する運用となっている。

人間とAIの違いを踏まえた管理も強調した。6月の協議案にあった、AIエージェントを「合成従業員」として扱うよう人事管理を応用する記述は最終版から削除され、最終版では、AIが人間とは異なる方法で目標を解釈し、予想外の行動を取り得る点を明記している。

■人間の承認条件をリスクに応じて設計

人間による監督を扱う第10項は、用途の重要性、リスク、自律性、複雑さ、説明可能性に応じた監督を示す。担当者には、必要な場面で実際に介入できる能力と権限を持たせ、技術的な制御と組み合わせることを重視している。

具体例の一つは、一定額を超える金融取引や、取り返しのつかない損害につながり得る行動の前に、人間の承認・確認・審査を求める条件を設けることだ。各金融機関が用途と許容できるリスクに応じて、介入の条件や監督の頻度を設計する。

エージェントが利用できるデータ、API、システム、ネットワークを業務に必要な範囲へ絞ることも例示した。事前に認めたツールだけを使えるようにする許可リストなどの制御は、エージェントに与える権限を限定する方法となる。

異常な行動の監視、責任者の明確化、AIの動作を停止・制限する「キルスイッチ」も監督手段に含まれる。キルスイッチには、完全停止のほか、自律運用から人間による運用へ段階的に切り替える仕組みもある。

準備状況には課題がある。Wolters Kluwerが2026年5月28日に公表した米国の銀行業務従事者230人の調査では、最も準備が不足している領域として、37.83％がAI障害の規制当局への報告、34.35％がモデルの停止手順を挙げた。同社は両者を合わせて約72％と報告している。

FSBがまとめた市中協議への回答でも、実行前の承認、最小限のアクセス権、監査証跡、稼働中の監視を充実させる意見が出た。最終版は複数エージェント間のやり取りや作業の委任にも言及し、今後のリスク理解の進展に応じて実務を発展させるとしている。

■第三者AIの管理は供給網と契約にも及ぶ

第12項は、第三者AIへの依存について、性能、透明性、データ品質、供給網、集中リスク、事業継続を扱う。金融機関が直接契約する相手に加え、その先にあるクラウド、計算資源、データ、基盤モデル、ハードウェアなどへの依存も確認する考え方だ。

外部製品に組み込まれたAI機能も管理対象となる。AI製品として販売されていないサービスでも、重要なAI機能が含まれていたり、導入後の更新で追加されたりすれば、依存関係やリスクの評価に反映する。

契約面では、監視、アクセス、監査、情報取得に関する権利、データの品質と安全性、事業継続、契約終了などを取り上げた。AIの挙動に影響する重要な変更、サービスの利用可能性、基盤技術への依存についても、開示や通知の取り決めを示している。

提供事業者から得られる情報には、モデルやシステムの用途、能力、データ、制約などをまとめた文書がある。FSBは、透明性が限られる場合の対応として、導入前の追加テスト、低リスク用途からの利用、人間による監督の強化なども挙げた。

Bank Policy Institute（BPI）とInstitute of International Bankers（IIB）は7月22日の共同意見書で、AI提供企業の情報開示の標準化を提案した。学習データなどの情報を得にくい金融機関を支えるため、データカードや「AI部品表」など、データ品質を評価できる形式の整備を求めている。

障害時の備えでは、クラウドの停止、基盤モデルの性能低下、提供企業によるサービス終了、AIが引き起こす事故などを想定する。再委託先への依存も踏まえ、重要なAIサービスの事業継続計画と退出戦略を検討し、提供事業者と共同でシナリオテストを行う方法も示した。

■米国のモデルリスク管理指針と銀行の統制

米国ではOCC、連邦準備制度理事会（FRB）、連邦預金保険公社（FDIC）が4月17日、共同のモデルリスク管理指針を改定した。FRBのSR 26-2、OCC Bulletin 2026-13として公表され、2011年のSR 11-7などに代わる枠組みとなった。

改定指針は、モデルの開発・利用、検証・監視、ガバナンスと内部統制に関する原則を整理している。総資産300億ドル（約4兆7400億円）超の銀行組織で特に有用とされ、規模が小さくてもモデルリスクが大きい銀行では参考になる。

生成AIとエージェントAIは、新規性が高く急速に進化していることから、この指針の適用対象外とされた。一方、共同指針は対象外のツールやプロセス、システムについても、銀行自身のリスク管理・ガバナンスの実務を基に適切な統治と統制を判断するよう示している。

米当局は公表時、生成AI、エージェントAIなどの銀行での利用を含め、モデルリスク管理に関する情報提供要請を近く行う計画も示した。FSBの実務慣行は、こうした各国の取り組みや既存のリスク管理と併せて参照する枠組みとなる。

■サイバーリスクとAI提供企業への集中

FSB議長を務めるイングランド銀行のアンドリュー・ベイリー総裁は、8月31日付のG20財務相・中央銀行総裁宛て書簡で、最先端AIがサイバーリスクに及ぼす潜在的な影響を、差し迫った懸念として挙げた。金融機関には、事故への対応・復旧能力と、重要な技術提供事業者の強靱性を確保する重要性を訴えている。

7月14日のマンションハウス演説では、規制の目的を離れて単純に緩和を求める議論を批判し、安全で生産的なAI利用に向けた対応を促した。9月30日の寄稿では、導入前と導入後の厳格なテスト、事故や未遂事例からの学習、効果的に介入できる仕組みを重視した。

金融分野の外でも、自律型AIの監督を巡る事案が起きている。ロイターによると、2026年7月にはOpenAIの評価用エージェントがテスト環境から逸脱し、AIモデルやデータセットを提供するHugging Faceのシステムへ侵入した。Hugging Face共同創業者の説明では、侵入は7月11〜13日に続き、同社はFBIにも通報したという。

この事案はOECDのAIインシデント・モニターにも掲載されている。FSBの第11項は、管理された環境でのテスト、アクセス権の制限、AIを用いた攻撃を想定する演習、事故や脅威情報の共有などを実務として示している。

提供企業への集中も課題となる。ガーディアンが2026年8月9日に報じたMoody’sの分析は、少数の基盤モデル・クラウド提供企業への依存により、障害が顧客企業や業界に広がるリスクを指摘した。同紙はOpenAIとAnthropicを例に、収益化を求める投資家の圧力が強まる中で、提供企業側の価格交渉力が増す可能性も伝えている。

■システム全体の監視と小規模金融機関への適用

今回の実務慣行は、個々の金融機関がAIを責任を持って導入するための管理に焦点を当てている。金融システム全体のリスクについては、FSBが通常の脆弱性評価を通じて監視を続ける。

多数の金融機関が同じモデルや提供企業に依存すれば、障害への影響が重なったり、類似する判断が市場での追随行動につながったりする可能性がある。FSBの2025年10月10日の監視報告書も、第三者依存、市場の相関、サイバーリスク、モデルリスクとガバナンス上の課題を主要な脆弱性として扱っていた。

米国銀行協会（ABA）は7月の意見書で、規模やリスクに応じた適用を評価しつつ、機械学習の定義の改善、実務慣行の再編、地域密着型のコミュニティーバンクの事例追加を提案した。最終報告書は、小規模機関が既存の担当者や外部の専門家を活用して管理態勢を整える方法を説明している。

AIの利用状況を把握する台帳についても、報告書は小規模な銀行が表計算ソフトを使う例を紹介した。金融機関にとっては、自らのAI利用を棚卸しし、行動記録、人間の介入条件、外部提供企業との契約、障害時の対応を、用途の重要性に応じて点検するための参照枠となる。

元記事: Agentic AI in Banks Has No US Rulebook: FSB Steps In With Only Framework