BCPの「第3形態」――AI・クラウド依存という新しい事業継続リスク

BCPの「第3形態」、用意できているか

~地震編・パンデミック編に続く“AI障害編”~
BCP(Business Continuity Plan:事業継続計画)には、これまで二通りあった。地震編は「いかに人を早く集めるか」、パンデミック編はその真逆で「いかに人を集めずに継続するか」である。そして今、筆者が提唱したいのが第3のBCP――AIが止まった時、業務をどう継続するかである。GxP環境において「AIが落ちたから業務も止まりました」は通用しない。

本記事における用語について:本稿でいう「BCPの第3形態」および「AIブラックアウト訓練」は、筆者独自のフレーミング(造語)である。内閣府「事業継続ガイドライン」中小企業庁「中小企業BCP策定運用指針」をはじめとする公的なガイドラインに、こうした形態区分の定義は置かれていない。あくまで論点整理のための呼称としてお読みいただきたい。

これまでのBCPは二通りしかなかった

BCP(事業継続計画)とは、企業が自然災害、大火災、テロ攻撃などの緊急事態に遭遇した場合において、事業資産の損害を最小限にとどめつつ、中核となる事業の継続あるいは早期復旧を可能とするために、平常時に行うべき活動や緊急時における事業継続のための方法・手段などを取り決めておく計画のことである。

BCPとは、企業が自然災害、大火災、テロ攻撃などの緊急事態に遭遇した場合において、事業資産の損害を最小限にとどめつつ、中核となる事業の継続あるいは早期復旧を可能とするために、平常時に行うべき活動や緊急時における事業継続のための方法、手段などを取り決めておく計画のことである。
――中小企業庁「1.1 BCP(事業継続計画)とは」(趣旨)

二つの形態と、本稿が提唱する第3の形態

形態 想定する事象 行動原理 中核となる備え
第1形態
地震編
地震・水害・火災などの物理的被災 人を集める
いかに早く要員を参集し、復旧本部を結成するか
安否確認、参集基準、代替拠点、設備の耐震化
第2形態
パンデミック編
感染症の流行 人を集めない
いかに接触を避け、リモートで継続するか
在宅勤務基盤、権限委譲、オンラインでの意思決定
第3形態
AI障害編
(筆者の提唱)
外部AIサービスの停止・劣化 AIなしで完結させる
いかにAIに依存せず業務を回すか
マルチプロバイダー、抽象化レイヤー、手作業での完結能力

第1は地震編――いかに人を早く集めて復旧本部を結成するかである。第2はパンデミック編――その真逆。いかに人を集めず、リモートで継続するかである。

筆者はコロナ禍が起きるずっと前の20年ほど前から「地震編だけでは不十分、パンデミック編が必要だ」と主張してきた。実際、内閣府の事業継続ガイドライン(令和5年3月)は、コロナ禍の経験を踏まえ、テレワークの活用やオンラインを活用した意思決定の仕組みの整備、情報セキュリティの強化に言及する内容へと改定されている。「あらゆる危機的事象を乗り越えるための戦略と対応」という副題が示すとおり、BCPの対象事象はもはや自然災害に限定されていない。

そして今、第3のBCPが必要になった

そして今、筆者が提唱したいのが第3のBCPである。AIが止まった時、業務をどう継続するか。

これは机上の話ではない。生成AIサービスは、すでに社会インフラに近い位置で使われながら、可用性の面では依然として発展途上にある。ある大手AIプロバイダーでは、2025年9月にAPI・コンソール・チャットサービスの全面障害が発生したと報じられており、2025年10月以降に報告された障害は190件以上、累計の停止イベントは450回を超えるという集計もある。2026年4月にも主要モデルで大規模障害が発生したと伝えられている。

数値の取扱いについて:上記の障害件数は、第三者による稼働状況の集計および公表報道に基づくものであり、規制当局等の一次情報源で確認できる数値ではない。傾向を示す参考値としてお読みいただきたい。重要なのは個々の数字ではなく、外部AIサービスが自社の統制下にない依存先であるという事実そのものである。

「外部AIサービスの障害により逸脱が発生しました」は通用しない

GxP環境において「AIが落ちたから業務も止まりました」は通用しない。査察官の前で「外部AIサービスの障害により逸脱が発生しました」と説明することの破壊力を、想像していただきたい。

なぜ規制当局に対して通用しないのか

  • 供給の継続は製造販売業者の責任である。外部サービスの障害は、製品の安定供給を止めてよい理由にはならない。
  • 外部委託先・供給者の管理は自社のQMSの一部である。クラウドAIサービスは実質的に外部委託されたコンピュータ化システムであり、供給者管理・変更管理・可用性要求の対象となる。
  • 逸脱の根本原因が「外部要因」で止まる調査は、是正処置にならない。問われるのは「なぜ代替手段を用意していなかったのか」である。

AIベンダーそのもののリスク評価については外部AIベンダーのリスクをどう評価するかを、AIの出力を鵜呑みにすることの危うさについてはAIが語る「27年前のバグ」という神話もあわせてご覧いただきたい。

▲【動画】ワンポイントAI 第1回 生成AI業務利用の重大注意点(株式会社イーコンプライアンス)

第3のBCPは、地震編・パンデミック編より圧倒的に難しい

しかも、このBCPは地震編・パンデミック編より圧倒的に難しい。AIに頼り切った組織は、すでに「人が手作業で完結する力」を失いつつあるからだ。

地震編では設備が壊れても人は残る。パンデミック編では人は集まれなくても業務知識は残る。ところがAI障害編では、業務を遂行する能力そのものが外部に流出している可能性がある。手順書の草案をAIに書かせ、逸脱の原因分析をAIに整理させ、報告書の文案をAIに起こさせている組織で、AIが止まった日に何が起きるか。誰も一から書けない、という事態である。

比較軸 地震編 パンデミック編 AI障害編
失われるもの 設備・拠点 対面での協働 業務遂行能力そのもの
事前の兆候 なし(突発) ある程度あり なし(突発)/劣化は気付きにくい
復旧の主導権 自社にある 自社にある 外部プロバイダーにある
訓練の難易度 参集訓練で再現可能 在宅勤務訓練で再現可能 「使わない」という規律を要し、再現が難しい

対策は二つ

対策は二つ。第一に、複数AIプロバイダーへの分散(マルチプロバイダー戦略)。第二に、避難訓練的に、AIなしで一から起票し完結させる練習を組み込むこと。これが第3のBCPの肝である。

マルチプロバイダー化の3つの側面

マルチプロバイダー化は、次の3つの側面から進める。

  1. 技術的側面抽象化レイヤーを噛ませて切り替え可能な設計にすること。特定プロバイダー固有のAPI仕様やプロンプト書式に業務システムを直結させない。切替えはコンピュータ化システムの変更として管理し、バリデーション上の影響評価を事前に定義しておく。
  2. 契約的側面主系・副系で別プロバイダーを契約し、SLAを比較しておくこと。稼働率、障害通知の手段とリードタイム、データの取扱い、監査権の有無を比較表にまとめ、供給者評価の記録として保管されたい。
  3. 運用的側面四半期ごとに副系での疎通確認を行うこと。契約しているだけで一度も動かしたことのない副系は、有事に動かない。疎通確認の記録を残し、結果をマネジメントレビューの入力とすることが望ましい。

「事業継続力強化計画」という制度も使える

  • 中小企業庁は、中小企業者等が策定した防災・減災の事前対策に関する計画を経済産業大臣が認定する事業継続力強化計画制度を運用している。取り組みやすいBCPとして位置付けられ、認定を受けた企業は税制措置・金融支援・補助金の加点等の措置を受けられる。
  • ゼロからBCPを起こすのが難しい場合は、中小企業BCP策定運用指針 第2版の様式から着手し、そこにAI障害のシナリオを追加するのが現実的である。

■ 本記事に関連するおすすめ商品
書籍
【超入門】コンピュータ化システムバリデーション

コンピュータ化システムバリデーション(CSV)の考え方を、はじめての方でも通読できるようやさしく解説した一冊です。外部クラウドサービスやAIサービスをGxP業務に組み込む際の供給者管理・変更管理・可用性要求をどう設計するかを考えるうえでの土台となります。

価格:44,000円(税込)/送料無料

書籍の詳細を見る ▶

QMS手順書ひな形
【QMS省令対応】品質管理監督システム基準書

QMS省令に対応した品質管理監督システム基準書のひな形です。MS-Word形式で提供され、自社の実態に合わせて加筆・修正してご利用いただけます。外部委託先の管理や、緊急時における業務継続の責任と権限をQMS文書体系の中に位置付ける際の土台としてお使いいただけます。

価格:99,000円(税込)

ひな形の詳細を見る ▶

ビデオ・VOD
生成AIシステムのCSV実施とAIリテラシー教育セミナー

生成AIシステムをGxP業務に導入する際のバリデーションの進め方と、従業員に求められるAIリテラシー教育を扱うセミナーです。AIに依存しすぎない業務設計と、障害時の代替手順をどう組み立てるかを考える手がかりになります。

価格:77,000円(税込)~ ※VODレンタルは1,650円(税込)~

VODの詳細を見る ▶

読者へのアクション――「AIブラックアウト訓練」

年1回、AI不使用の状態で逸脱起票から是正処置完了までを通しで実施する「AIブラックアウト訓練」を、BCP訓練のメニューに追加していただきたい。

ステップ 実施内容 残す記録
1. 宣言 訓練日を定め、対象部門で外部AIサービスの利用を全面停止する 訓練計画書(範囲・停止対象・実施責任者)
2. 起票 模擬の逸脱事象を、AIを使わずに一から起票する 逸脱報告書(手作業版)
3. 調査 根本原因調査とリスク評価を、AIの要約なしで実施する 調査記録、所要時間の実測値
4. 是正処置 是正処置・予防処置を立案し、完了まで通す CAPA記録
5. 振り返り 所要時間の増分、詰まった工程、失われていた技能を特定する 訓練報告書、教育訓練計画への反映
補足:この訓練の目的は「AIを使うな」ということではない。AIがなくても業務が完結する最低限の能力を組織に残すことにある。所要時間が平常時の何倍になるかを実測しておけば、それがそのままAI障害時の復旧目標時間(RTO)の見積り根拠になる。教育と訓練の役割分担については教育と訓練は違う――QMSにおける「Education」と「Training」もご覧いただきたい。

なお、こうした訓練の結果と改善課題は、経営層が把握すべき情報である。マネジメントレビューの入力として扱うことについてはQMSの誠実性とマネジメントレビュー、経営層の関与の重要性についてはトップダウンの品質マネジメントを参照されたい。

まとめ――3つのポイント

  1. BCPには「AI障害編」が要る地震編(人を集める)、パンデミック編(人を集めない)に続く第3の形態として、AIが止まった時に業務をどう継続するかを定めておく必要がある。GxP環境で「外部AIサービスの障害により逸脱が発生しました」は通用しない。
  2. 対策は分散と訓練の二本立て技術(抽象化レイヤー)・契約(主系/副系の別プロバイダーとSLA比較)・運用(四半期ごとの副系疎通確認)の3側面でマルチプロバイダー化を進める。同時に、AIなしで完結させる訓練を組み込む。
  3. 最大のリスクは「手作業で完結する力」の喪失AI障害編が地震編・パンデミック編より難しいのは、失われるのが設備でも拠点でもなく、業務遂行能力そのものだからである。年1回の「AIブラックアウト訓練」で、その能力が残っているかを実測されたい。

参考・出典(一次情報源)

関連記事一覧