なぜ人類は囲碁・将棋でAIに勝てなくなったのか

なぜ人類は囲碁・将棋でAIに勝てなくなったのか

かつて、人間とAIの将棋・囲碁・チェスは一進一退であった。3勝2敗、2勝3敗――どっこいどっこいだったのである。ところが、ある時点を境に人類は一方的に勝てなくなった。その境目は「AIの計算量が増えたから」ではない。「人間が教えるのをやめた瞬間」である。本稿では、DeepMindがNature誌および学術論文で公表した事実に基づいてこの転換点を確認し、同じ構造が業務プロセスに波及したとき、GxP環境で何を守るべきかを論じる。

「一進一退」だった時代――人間が教師だった頃

AIは「人間の写し鏡」に過ぎなかった

かつてのゲームAIは、人間の棋譜を読んで覚え、そこから最善手を選び出していたにすぎなかった。「学習データ」は人間が用意するものであり、いわばAIは「人間の写し鏡」に過ぎなかったのである。

だからこそ勝負は拮抗した。写し鏡は、鏡に映るものより大きくはなれない。もっとも、種目ごとに転換点の時期は大きく異なっている。まずは事実関係を年表として整理しておきたい。

時期 出来事 結果 学習方法
1997年5月 チェス：Deep Blue 対 Garry Kasparov 世界チャンピオン（ニューヨーク） Deep Blueが3.5―2.5で勝利。チェスでは早い段階でAIが人間を上回った 探索＋人間が設計した評価関数
2013年3〜4月 将棋：第2回将棋電王戦（プロ棋士5名 対 コンピュータ将棋5ソフト） コンピュータ側の3勝1敗1分とされる。まさに「一進一退」の時期であった 人間の棋譜を教師データとする機械学習＋探索
2015年10月 囲碁：AlphaGo 対 樊麾（ファン・フイ）欧州王者 AlphaGoが5―0で勝利。囲碁でプロ棋士を破った初の事例 人間の棋譜による教師あり学習＋自己対局による強化学習
2016年3月 囲碁：AlphaGo 対 李世乭（イ・セドル）九段（韓国・ソウル） AlphaGoが4―1で勝利。全世界で2億人超が視聴したとされる 同上（人間の棋譜を使用）
2017年5月 囲碁：AlphaGo Master 対 柯潔（カ・ケツ）九段（中国・烏鎮） AlphaGo Masterが3連勝。当時の世界ランキング1位を下した 同上系統の改良版
2017年4〜5月 将棋：第2期電王戦（佐藤天彦名人 対 PONANZA） PONANZAが2連勝。現役名人がコンピュータに敗れた 人間の棋譜＋自己対局
2017年10月 AlphaGo Zeroの論文がNature誌に掲載 人間の棋譜を一切使わず、自己対局のみで学習。3日でAlphaGo Leeを100―0で破る 教師なし（自己対局のみ）
2017年12月 AlphaZeroの論文がarXivに公開 24時間以内に囲碁・チェス・将棋すべてで超人レベルに到達 教師なし・汎用アルゴリズム
補足：チェス・将棋の対局結果（1997年のDeep Blue戦、電王戦）は広く報じられた歴史的事実であるが、本稿では一次情報源として学術論文・DeepMind公式発表が参照できるAlphaGo系統の記述を中心に据えている。電王戦の勝敗数など細部については、主催者発表をご確認いただきたい。

転換点――「人間が教えなくなった瞬間」

AlphaGo Zero：棋譜を一枚も見ずに、3日で100―0

2017年10月、DeepMindは「Mastering the game of Go without human knowledge」をNature誌に発表した。ここで示されたAlphaGo Zeroは、人間の棋譜を一切使わず、囲碁のルールだけを与えられた状態から自己対局のみで学習した。

わずか3日間の自己対局学習の後、AlphaGo Zeroは、既発表版のAlphaGo（李世乭九段を破ったAlphaGo Lee）を100対0で圧倒した。40日間の自己学習の後、AlphaGo Zeroはさらに強くなった。
――DeepMind「AlphaGo Zero: Starting from scratch」（趣旨）

DeepMindの公表によれば、Eloレーティングで見た到達点は次のとおりである。

バージョン 学習方法 おおよそのEloレーティング 特筆事項
AlphaGo Lee 人間の棋譜＋自己対局 約3,700 2016年3月、李世乭九段に4―1で勝利した版
AlphaGo Master 改良版 約4,800 世界ランキング1位の柯潔九段を下した版
AlphaGo Zero 自己対局のみ（人間の棋譜不使用） 40日後に5,000超 3日でAlphaGo Leeに100―0

AlphaZero：24時間で、囲碁・チェス・将棋のすべてを

続く2017年12月、DeepMindは「Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm」（arXiv:1712.01815）を公開した。AlphaZeroは、ゲーム固有の知識をほとんど持たない汎用の強化学習アルゴリズムでありながら、論文の要旨によれば24時間以内に囲碁・チェス・将棋すべてで超人レベルの棋力に達し、それぞれの分野の世界チャンピオンプログラムを説得力ある形で破ったとされる。

同論文によれば、対戦相手はチェスがStockfish、将棋がelmo、囲碁がAlphaGo Zeroであった。論文中の学習曲線では、チェスでは学習開始から約4時間でStockfishのレーティングを上回ったと報告されている。同研究はその後、2018年12月にScience誌に掲載されている。

ここで起きたことの本質

  • 強くなった要因は、計算資源の増加だけではない。教師役を外したことである。
  • 人間の棋譜で学習していた間、AIの強さの上限を決めていたのは「人間の知見の上限」だった。写し鏡は原物を超えられない。
  • 教師役を外した瞬間に、その天井が消えた。AlphaGo Zeroが人間の定石を再発見したうえで、人間が知らなかった手を打ち始めたのは、その帰結である。
  • そして重要なのは、その後の探索過程を人間が理解できなくなったという点である。強さと説明可能性は、ここで分離した。

「人間が教えなくなった瞬間」、AIは人類の手を離れたのである。

この構造は、業務領域にも波及する

「学習データのある世界」と「ない世界」の差

筆者はこの構造が、業務領域にも遠からず波及すると考えている。ゲームと業務は違う、という反論はもっともである。だが差は本質的なものではなく、「勝ち負けの定義が明確か」「試行を安全に大量反復できるか」という2条件の有無にすぎない。

条件 囲碁・将棋 業務プロセス 波及の見通し
勝敗（成功基準）の定義 ルール上、完全に明確 KPI・処理時間・エラー率など部分的に定義可能 指標化できる工程から順に自己改善が進む
試行の反復可能性 シミュレーション上で無限に可能 本番環境では不可。ただしテスト環境・過去データ上では可能 シミュレーション環境の整備が転換点になる
教師データ 人間の棋譜（後に不要化） 過去の手順書・記録・是正処置の履歴 初期は必須。自己改善が回り始めると必須でなくなる
評価者 Eloレーティングで自動評価 人間のレビュー・承認 ここが最後に残る人間の役割
失敗のコスト 一局負けるだけ 患者への健康被害・回収・査察指摘 だからこそGxPでは天井を外してはならない

AIエージェントが業務プロセスを自己改善し始めた時、それを評価できる人間がいるか――この問いを、今のうちに準備しておく必要がある。AlphaGo Zeroの棋譜を前にしたプロ棋士と同じ立場に、品質保証部門が立たされる日が来るということである。

▲【動画】ワンポイントAI 第2回 Human-in-the-Loop とは（株式会社イーコンプライアンス）

■ 本記事に関連するおすすめ商品
書籍
【超入門】コンピュータ化システムバリデーション

AIが自ら改善したプロセスを、どう検証し、どう記録するのか。その土台となるのがコンピュータ化システムバリデーション（CSV）の考え方です。用語の意味から成果物の作り方まで、初学者がつまずくところを丁寧に解説した超入門書です。

価格：44,000円（税込）／送料無料

書籍の詳細を見る ▶

QMS手順書ひな形
【QMS省令対応】品質管理監督システム基準書

「AIが提案した変更をどう扱うか」は、個別のSOPではなく品質管理監督システム全体の設計思想の問題です。QMS省令に対応した基準書のひな形をMS-Word形式で提供します。自社の実態に合わせて加筆・修正のうえご利用いただけます。

価格：99,000円（税込・ダウンロード版）

ひな形の詳細を見る ▶

ビデオ・VOD
【第12回】AI Compliance研究会

生成AIの最新動向と、規制産業におけるコンプライアンス上の論点を扱う研究会の録画版です。AIエージェントの自律性が高まるなかで、人による監督をどう設計するかを議論しています。VODレンタルもご用意しています。

価格：27,500円（税込）～

VODの詳細を見る ▶

医薬品・医療機器業界への示唆

GxP環境では、人間が「教師」であり続けられる仕組みを残す

囲碁においては、教師役を外したことが飛躍を生んだ。しかしGxP環境では、話が根本的に違う。負けたときのコストを支払うのが患者だからである。囲碁の一局は負けても取り返しがつくが、品質不良は取り返しがつかない。

したがってGxP環境ではなおさら、人間が「教師」であり続けられる仕組みを残しておくべきである。具体的には、AIが提案した手順変更を、必ず人間のレビュー・承認・変更管理プロセスに通す仕組みを、変更管理SOPに明記しておくことだ。

規制当局の要求は、すでにこの方向を向いている

規制・ガイダンス AIに関する要求の要点 本稿との対応
EU GMP Annex 22（新設案）
※2025年7月7日〜10月7日に意見募集 		AIモデルの選定・訓練・バリデーション、意図した使用の定義、性能指標の設定、訓練データの品質、テストデータの管理。加えて変更管理・性能モニタリング・必要に応じた人によるレビューを含む継続的な監督を要求 「自己改善したAIを誰が評価するのか」に対する規制側の答え。人によるレビューを外させない
EU GMP Annex 11（改訂案） コンピュータ化システムの要求事項を全面的に見直し AIを含むシステムの変更管理の基盤
FDAドラフトガイダンス（2025年1月） 規制判断を支えるAIモデルについて、リスクベースの信頼性（credibility）評価フレームワークを提案 「AIが強い」ではなく「その出力を信じてよい根拠があるか」を問う枠組み
FDA：AI in SaMD 市販後の学習・更新を含むライフサイクル管理 「学習し続けるモデル」の管理という同じ問題
EU AI Act（Regulation (EU) 2024/1689） 2024年6月13日採択、7月12日官報掲載。リスク区分に応じた義務 ハイリスクAIには人による監督が明示的に求められる
注意：EU GMPのAnnex 11改訂案および新規Annex 22は、本稿執筆時点で意見募集が終了した段階であり、最終版は未発効である。条文・適用時期は変更され得るため、EMAのGMP/GDP査察官作業部会の最新情報を確認されたい。

変更管理SOPに何を書くべきか

  1. AI起源の変更提案を定義する「AIまたはAIを組み込んだシステムが提案・自動生成した変更」を、変更管理SOPの適用対象として明示的に定義する。定義がなければ、そもそも管理の網に掛からない。
  2. 人間の承認を必須の関門にするAI起源の変更は、内容の如何を問わず人間のレビューと承認を経なければ実装できないことを規定する。承認者は自らの判断として署名するのであって、AIの判断を追認するのではない。
  3. 提案根拠の説明可能性を要求するAIが「なぜその変更を提案したか」を、人間が読める形で記録させる。AlphaGo Zeroの手を人間が説明できなかったのと同じ状態を、業務プロセスで再現させてはならない。
  4. 評価者の力量を規定するAI起源の変更を評価できる者の要件（教育・訓練・技能・経験）を定める。力量の4要素の考え方が、そのまま使える。
  5. モデル更新をトリガーにする使用しているAIモデルのバージョン更新自体を、変更管理の対象イベントとして扱う。クラウド提供のAIは、利用者に個別通知なく更新され得る。
  6. 定期的な有効性レビューを設けるAIが提案し実装した変更が、意図した効果を上げているかを定期的に検証する。これは内部監査の目的そのものである。

最も警戒すべきこと――「レビューの形骸化」

  • AIの提案が高い確率で正しくなるほど、レビューは通過儀礼に変わる。精度が上がることが、統制を弱めるという逆説である。
  • 対策は、承認者の責任を明確にすることに尽きる。「AIが提案したから承認した」という説明は、査察の場で成立しない。
  • この方針は現場の努力では維持できない。トップダウンの品質マネジメントとして経営層が明示すべき事項である。
  • 一方で、AIが人間の見落としを拾う場面は現実に存在する。AIが27年前のバグを発見した事例のように、AIを排除するのではなく、評価できる人間を残したまま使うことが要点である。

関連する論考

まとめ――3つのポイント

  1. 転換点は「教師役を外したこと」だった2017年10月にNature誌へ発表されたAlphaGo Zeroは、人間の棋譜を一切使わず自己対局のみで学習し、3日でAlphaGo Leeを100―0で破った。AIの上限を決めていたのは、人間の知見の上限だったのである。
  2. 同じ構造は業務プロセスにも波及し得る成功基準が定義でき、試行を安全に反復できる工程から、AIの自己改善は始まる。そのとき問われるのは「それを評価できる人間がいるか」である。
  3. GxPでは、人間が教師であり続ける仕組みを残すEU GMP Annex 22案は人によるレビューを含む継続的監督を求め、FDAはリスクベースの信頼性評価を提案している。AI起源の変更提案を変更管理SOPの対象と定義し、人間の承認を必須の関門として明記しておくことである。

読者へのアクション

  • 自社の業務改善で「AIが提案した変更」をどう取り扱うかを、変更管理SOPに今のうちに織り込んでおくことを強く推奨する。
  • あわせて、その提案を評価できる人材の力量要件を定義し、教育訓練計画に反映していただきたい。

参考・出典（一次情報源）

関連記事一覧