AIには感情と想像力がない（現時点）

人工知能（AI）の進化は目覚ましく、2026年現在、AIは文章を書き、画像を生成し、複雑な業務を遂行できるようになった。しかし、どれほど高度な処理を行えるようになっても、AIには決定的に欠けているものがある。それが「感情」と「想像力」である。この点を正しく理解することは、AIを適切に活用し、人間の役割を再定義するうえで極めて重要である。とりわけ製薬・医療機器のように「誰が判断したのか」を記録し、説明しなければならない業界では、この理解が規制対応そのものに直結する。

本稿の見取り図

先に、本稿が扱う論点と、それぞれの根拠の性質を一覧で示す。「根拠の性質」の欄が本稿の肝である。同じ「AIには〜がない」という文でも、哲学的な論点と、実験で確かめられた事実と、規制文書に書かれた要求とでは、読み手が負うべき態度がまったく異なる。

AIが「感情」を持たない本質的な理由

パターン認識と感情の違い

AIは膨大なデータから学習し、人間の感情表現を模倣することができる。励ましの言葉を生成したり、共感的な応答を返したりすることも可能である。しかし、これは感情を「持っている」のではなく、感情的な言葉のパターンを「再現している」と理解するのが妥当である。

たとえば、AIが「それは大変でしたね」と応答したとき、その出力の生成過程に同情という内的状態が介在したことを示す証拠はない。大規模言語モデルは、直前までの文脈のもとで次に来る語の確率分布を推定し、そこから語を選ぶ処理を繰り返している。この仕組みについては、自社記事GPTは確率論に基づく次トークン予測技術で詳述した。共感的な語が出てくるのは、そうした文脈で共感的な語が続く確率が高いという統計的性質の帰結であって、感じたことの表明ではない。

主観的体験の不在

人間の感情には、喜び、悲しみ、怒り、恐れといった主観的な体験が伴う。美しい夕焼けを見て心が動かされたり、大切な人との別れに涙を流したりする。これは単なる情報処理ではなく、意識を持つ存在としての内的体験である――と、少なくとも私たちは自分自身についてそう考えている。

現在のAIに、このような主観的体験が存在するという証拠はない。AIは夕焼けの画像を分析し、「美しい」というラベルを付けることはできるが、その美しさを「感じて」いるかどうかを外部から確かめる手段は存在しない。

ここで正直に述べておくべきことがある。この「確かめる手段が存在しない」という事情は、AIに不利にも有利にも働かない。私たちは他の人間についても、その内面を直接観測してはいない。にもかかわらず他人に主観的体験があると信じるのは、身体構造と行動の類似という間接的な根拠によっている。AIにはその類似がない。ゆえに「ある」と考える積極的な理由もない――というのが、本稿が採る立場である。これは証明ではなく、証拠がない側に立つという判断である。

「感情を持つ」と「感情を認識・模倣する」は、まったく別のことである

ここが本稿でもっとも重要な区別である。この二つを混同すると、「AIが感情を読み取れるようになった」という報道を「AIが感情を持ち始めた」と受け取ってしまう。両者は技術的にも規制上もまったく別物として扱われている。

元記事は「研究者たちは『感情AI』の開発に取り組んでいる」と述べていた。この分野には確立した名称がある。Affective Computing（感情コンピューティング）である。マサチューセッツ工科大学（MIT）メディアラボの研究者が1995年のテクニカルレポートと1997年の同名書籍（MIT Press）で提唱し、以後30年にわたり学術分野として定着している。

ここで注意すべきは、この分野の実際の成果物が何かということである。MITメディアラボの Affective Computing グループが自ら掲げる目的は「感情を伝達し、理解し、感情に応答する新しい方法を開発すること」であり、すなわち人間の感情信号を機械が処理し、適切に反応することにある。機械に感情を宿らせることではない。

つまりEU の立法者は、「AIが人の感情を読み取れる」という主張そのものを慎重に扱っている。「感情を持つAI」が実現していないのはもちろん、「感情を確実に読み取るAI」も、規制文書の水準では未達と評価されているのである。

AIが「想像力」を持たない理由

学習データの範囲内での創造

AIの創造的な出力は、しばしば人間を驚かせる。新しいデザインを提案したり、独創的な文章を生成したりする。しかし、AIの創造性は本質的に「組み合わせ」の産物である――というのが、本稿が採る立場である。

AIは学習したデータの要素を新しい形で組み合わせることはできる。一方で、データに全く含まれていない概念を生み出せることを示す事例は、いまのところ確認されていない。たとえば、写真を一枚も見たことのない人物が想像だけで風景画を描くような創造は、現在のAIの動作原理からは説明がつかない。

「未知」への飛躍の欠如

人間の想像力の真髄は、既知の世界を超えて「まだ存在しないもの」を思い描く能力にある。かつて空を飛ぶことは不可能だと考えられていたが、人間は鳥を見て「もし人間も飛べたら」と想像し、やがて飛行機を発明した。

この種の想像力には、現状への不満、より良い未来への希望、実現への意志といった感情的な原動力が不可欠であると考えられる。AIはデータから最適解を導き出すことはできるが、「こうあるべきだ」という価値判断や、「こうなったら素晴らしい」という願望を、自ら発生させている証拠はない。AIが価値判断らしきものを出力するとき、その基準は設計者が与えた目的関数か、訓練データに含まれていた人間の価値判断の分布である。

この論点への反証はあるか――誠実に扱う

この立場に対しては、有力な反論がある。近年、AIは人間が長年見つけられなかった解を発見したと報じられる事例を積み上げてきた。当社も、AIが27年間誰にも発見されなかったソフトウェアのバグを検出した事例を記事にしている（27年間誰も見つけられなかったバグ）。「これは組み合わせの外に出たのではないか」という問いは、正当な問いである。

本稿の整理は次のとおりである。「組み合わせを超えた」のか「組み合わせの探索範囲が人間より圧倒的に広かった」だけなのかを、外から区別する方法がない。探索空間の中に答えがあり、それを人間が見つけられなかっただけであれば、それは網羅性の勝利であって想像力ではない。逆に、探索空間の外に出たことを示すには、「探索空間の境界」を定義できなければならないが、大規模モデルについてそれを定義する手段はない。

したがって、「AIには想像力がない」も「AIには想像力がある」も、現時点では証明できない。本稿は、動作原理から説明できる範囲にとどめる――すなわち「組み合わせで説明がつく」――という保守的な立場を採る。この態度は、規制対応の場面では実務的にも正しい。説明できない能力を前提に業務を設計してはならないからである。

AIと人間の協働における実践的な意味

役割分担――AIが得意なこと／人間にしかできないこと

感情と想像力を持たないAIだからこそ優れた能力を発揮する領域があり、一方で感情と想像力を持つ人間にしか担えない役割もある。両者を対比して整理する。

一貫した処理能力

AIは疲れを知らず、休みなく作業を続けられる。感情の浮き沈みに左右されず、一貫した基準で処理を行うことができる。単調な反復作業や、大量の情報を短時間で処理する業務において、人間を遥かに凌駕する。

ただしこの「一貫性」には条件が付く。同じ入力に対して同じ出力を返すモデルであることが前提である。生成AIや大規模言語モデル（LLM）は、この前提を満たさない。同じ問いに二度答えさせれば、違う答えが返り得る。後述するとおり、EU GMP の Annex 22 ドラフトはまさにこの点を理由に、生成AI・LLM を重要な GMP 用途から外している。Excel の COPILOT 関数についても同じ問題が指摘されており、当社記事Excelの10の問題点で扱った。

客観性への注意点

医療分野では、実際に検証された事例がある。米国で広く使われていた患者の追加ケア対象を選定するアルゴリズムについて、同じリスクスコアが付いた患者どうしを比べると、黒人患者のほうが白人患者より実際には病状が重かったことが査読付き論文で報告されている（Science 誌、2019年10月25日）。原因は、アルゴリズムが「病状の重さ」ではなく「医療費の発生額」を予測していたことにあった。医療へのアクセスに格差があるため、同じ病状でも黒人患者には少ない費用しか使われていなかったのである。バイアスを取り除いた場合、追加ケアを受ける黒人患者の割合は17.7%から46.5%に増えると試算された。

注目すべきは、このアルゴリズムに人種は入力されていなかった点である。差別的な意図も、差別的な変数も存在しなかった。にもかかわらず、代理変数（医療費）を通じて社会の格差がそのまま出力に流れ込んだ。「悪意がないこと」はバイアスがないことの保証にならない。

人間にしかできないこと

真に新しい価値の創造

前例のない課題に直面したとき、既存のデータやパターンを超えた発想が必要になる。これは感情を持ち、主観的な価値判断ができる人間の領域である――と考えられている。

ただしこの点については、興味深い実証研究がある。元記事は「2024年から2025年の研究により、AIとの協働が創造性に与える影響は複雑であることが明らかになっている」と述べていたが、「複雑である」では何も述べたことにならない。特定できた研究の知見に置き換える。

人間の創造性の真価は、「何を創るべきか」という価値判断と、「なぜそれが重要か」という意味の付与にある。ここは、いまのところ人間しか担っていない役割である。

倫理的判断と共感

AIに業務を「任せる」時代においても、最終的な判断、とりわけ倫理的な問題については人間が責任を持つ必要がある。倫理的推論には、価値判断と感情的文脈の理解が不可欠であり、これはAIには欠けている能力である。また、顧客や同僚との深い信頼関係の構築には、本物の共感が不可欠である。

重要なのは、AIシステムがその人工的性質を明示し、透明性を保つことである。特に感情的な文脈では、AIは人間のサポートの代替ではなく、あくまで補助として位置づけられるべきである。この「明示せよ」という要請は、いまや倫理的な心得ではなく法的義務になっている。EU AI Act 第50条第3項は、感情認識システムの利用者に対し、そのシステムにさらされる自然人へ運用について通知する義務を課している。

GxPにおける意味――なぜ Human-in-the-Loop が要求されるのか

ここまでは一般論である。ここからが、製薬・医療機器の品質保証／CSV担当者にとって本題になる。

「AIには感情と想像力がない」という命題は、規制対応の文脈に置くと、たちまち具体的な設計要件に化ける。各国の規制当局は、この命題を哲学の問題としてではなく、制度設計の前提として扱っている。「AIは自分で価値判断をしないし、自分の出力に責任を負えない」――だからこそ、判断と責任を人に残す仕組みを明文で要求しているのである。

EU AI Act――「人間による監督」の明文要求

Regulation (EU) 2024/1689（EU AI Act）は2024年6月13日に署名され、本則の適用開始は2026年8月2日である。すなわち本稿執筆時点で、すでに適用段階に入っている。適用スケジュールは段階的で、次のとおりである（第113条）。

医療機器メーカーにとって重要なのは最後の行である。AI Act 第6条第1項は、附属書Iに掲げる EU 整合法令の対象製品の安全構成要素であるAI、またはそれ自体が当該製品であるAIで、かつ第三者適合性評価が要求されるものをハイリスクに分類する。附属書Iの第11号は Regulation (EU) 2017/745（MDR）、第12号は Regulation (EU) 2017/746（IVDR）である。前文(51)は、MDR／IVDR について「中リスクおよび高リスク製品には第三者適合性評価が設けられている」と明記している。つまり、Notified Body による適合性評価を要する医療機器（クラスIs／Im／Ir およびクラスIIa以上）に組み込まれたAI、またはそれ自体が当該機器であるAIは、原則としてハイリスクAIに該当する。その義務の適用開始は2027年8月2日である。

そのハイリスクAIに課される中核要求のひとつが、第14条「人間による監督（Human oversight）」である。

(b) と (d) を並べて読むことが肝要である。立法者は「人はAIの出力を鵜呑みにしがちである」という事実を前提に置いたうえで、それでもなお「無視し、上書きし、覆す」権限を人間に残せと要求している。これは、AIが価値判断も責任も引き受けられないという本稿の主張を、法の側から裏書きした条文である。

EU GMP Annex 22（AI）ドラフト――生成AIは重要なGMP用途に使うべきでない

EU GMP には、AIを正面から扱う新附属書のドラフトがある。EudraLex Volume 4 の Chapter 4（文書化）改訂、Annex 11（コンピュータ化システム）改訂とあわせ、Annex 22「Artificial Intelligence」が新設案として意見募集にかけられた。募集期間は2025年7月7日から2025年10月7日までである。

このドラフトの「1. Scope」は、本稿の論旨ときわめて強く共鳴する。

この一文は、本稿が「一貫性」の節で述べた条件を、規制文書がそのまま採用したものである。「同じ入力に同じ出力を返さないモデルは、重要な用途に使うな」。そして、非重要用途に使うのであれば人が出力の妥当性に責任を負え、と書いてある。

Annex 22 ドラフトは、Human-in-the-Loop についてさらに二点を要求している。

FDA――AI関連ガイダンスの現在地（2026年8月時点）

米国 FDA も複数の文書を出しているが、最終版とドラフトが混在している。「ガイダンスが出ている」と一括りにせず、状態を区別して扱う必要がある。

EMA――責任は AI ではなく、申請者・製造業者にある

欧州医薬品庁（EMA）の CHMP・CVMP は、2024年9月に「医薬品ライフサイクルにおけるAIの利用に関するリフレクションペーパー」（EMA/CHMP/CVMP/83833/2023）を採択した。同文書は、責任の所在について明快である。

同文書は、透明でないモデル（いわゆるブラックボックス）の使用について、「透明な（解釈可能な）モデルでは性能または頑健性が不十分であることを開発者が実証できる場合には、許容され得る」としており、ブラックボックスの採用にも人間による立証責任を課している。

責任の所在――AIは責任主体になれない

ここまで見てきた各国の規制に共通する構造がある。どの文書も、義務の名宛人を自然人または法人にしている。「AIが責任を負う」と書いた規制文書は存在しない。これは規制側の怠慢ではなく、AIには価値判断も意志もないという理解の、法的な帰結である。

QMS省令における「人が行うこと」

日本の医療機器及び体外診断用医薬品の製造管理及び品質管理の基準に関する省令（QMS省令）を見ると、AIに委ねられない行為が条文に散在していることが分かる。

「判断の独立性」――承認者はレビューをしてはいけない、との接続

QMS省令第15条第2項の「必要な独立性を確保」という要求と、Annex 22 ドラフト 6.5 の 4-eyes principle は、同じ思想の別表現である。すなわち、一人の主体が「作る」と「点検する」を兼ねると、点検が機能しなくなるという経験則である。

当社は、この論点を人間どうしの役割分担として扱った記事を公開している（承認者はレビューをしてはいけない）。そこでの整理は、レビュアーは内容を確認し、承認者は「レビューが正しく行われたという事実」を確認する、というものであった。承認者に全文の読み直しを求めると、かえって承認が形骸化する（いわゆるラバースタンプ化する）。

AIを工程に入れると、この構図に新しい失敗様式が加わる。AIが下書きし、AIがレビューし、人が承認する――という運用にすると、独立性を担保しているのは「人が承認したこと」だけになる。しかもその人は、AIが作りAIが点検した成果物を渡されているため、点検が実質的に行われたのかを判定する材料を持たない。AI Act 第14条第4項(b) が名指ししたオートメーション・バイアスが、もっとも起きやすい配置である。

教育訓練――AIを使う側の力量が要求される

Annex 22 ドラフト 3.3 は、Human-in-the-Loop の運用について「操作者の教育訓練と一貫した実施能力は、他の手作業工程と同様に監視すべき」と述べている。QMS省令第23条は、必要な能力の明確化、教育訓練の実施、その措置の実効性の評価、記録の作成・保管を求めている。

これを AI に当てはめると、次のような要求になる。「AIの出力を通してよいと判断する人」が、その判断を行う力量を持っていることを、記録で示さなければならない。ここでいう力量には、当該業務の専門知識に加え、AIの限界を理解していることが含まれる。AI Act 第14条第4項(a) が「関連する能力と限界を適切に理解し」と書いているのは、まさにこの点である。

実務への落とし込み

以上を踏まえ、規制対象業務にAIを組み込む際の検討順序を整理する。

1. 用途が「重要」か「非重要」かを先に決める患者安全・製品品質・データインテグリティに直接の影響を及ぼすか否かで区分する（Annex 22 ドラフト 1. Scope の切り口）。重要用途に生成AI・LLMを使う計画は、この段階で成立しない。
2. 出力が決定論的かを確認する同一入力に同一出力を返すか。返さないのであれば、その事実を前提に工程を設計する。「たぶん同じ結果になる」は再現性の担保にならない。
3. 責任者を仕様書に書くAnnex 22 ドラフト 3.3 は、意図した用途の記述に操作者の責任を含めることを求めている。「AIが出したので」という説明が成立しない体制を、文書で先に作る。
4. レビューの記録を設計する同 10.5 は、人によるレビュー過程の記録の保持を求めている。工程の重要度によっては全出力のレビューが要る。「見た」ではなく「見たという記録」が要件である。
5. 独立性の配置を確認する作成・レビュー・承認のどこにAIが入り、人の独立性が崩れていないかを点検する（QMS省令第15条第2項、Annex 22 ドラフト 6.5）。
6. バリデーションと変更管理の対象に含めるQMS省令第5条の6は、QMSにソフトウェアを使用する場合の手順の文書化と、初回使用時・変更時の事前バリデーションを求めている。モデルの更新は「変更」である。Annex 22 ドラフト 10.1 も同旨（変更時の再試験、再試験しない場合は正当化）。
7. 「判定不能」を返せるようにする確信度が低い場合に旗を立てる仕組みを組み込む（同 9.2）。AIは自発的に躊躇しない。躊躇は外から実装するしかない。
8. 使う人の力量を記録するAIの限界を理解していることを含め、教育訓練と実効性評価の記録を残す（QMS省令第23条、Annex 22 ドラフト 3.3）。
9. ドリフトを監視する入力データがモデルの想定範囲に留まっているかを定期的に監視する（同 10.4）。環境が変われば、変更していないモデルの性能も変わる。

未来への展望

感情AI（Affective Computing）の研究動向

研究者たちは、人間の表情や声のトーンから感情を認識し、適切に応答するシステムの開発に取り組んでいる。この分野は Affective Computing（感情コンピューティング）と呼ばれ、1995年のテクニカルレポートと1997年の同名書籍（MIT Press）を起点として、MITメディアラボを中心に発展してきた。

ただし、繰り返しになるが、これは感情を「理解する」のではなく、感情の表出パターンを「検出する」技術である。MITメディアラボの当該研究グループ自身、その目的を「感情を伝達し、理解し、感情に応答する新しい方法の開発」と掲げており、機械に感情を宿らせることを成果目標にはしていない。

さらに、検出の側についても評価は定まっていない。EU AI Act 前文(44)が「科学的根拠に重大な懸念がある」「信頼性の限界、特異度の欠如、一般化可能性の限界」と述べているとおりである。その帰結として、EU では職場および教育機関において感情を推定するAIの上市・利用が禁止され（第5条第1項(f)、2025年2月2日から適用）、それ以外の感情認識システムも原則としてハイリスクに分類されている（附属書III 1(c)）。医療上または安全上の理由による利用は禁止の例外とされているが、その場合もハイリスクAIとしての要求は残る。

真の意味でAIが感情や想像力を持つようになるかどうかは、意識の本質という哲学的問題とも関連し、現時点では未解決の課題である。「未解決」であって「否定された」でも「時間の問題」でもない。この記事のタイトルに「（現時点）」と付されているのは、その状態を正確に表すためである。

共進化の道

重要なのは、AIに感情や想像力がないことを欠点として捉えるのではなく、人間とAIの特性の違いとして認識することである。AIは一貫した処理能力と高速な情報処理で貢献し、人間は感情と想像力を活かして新たな価値を創造する。

ただし、AIの「客観性」を過信してはならない。AIは訓練データのバイアスを反映するため、その判断には継続的な監視と人間による最終確認が必要である。この相補的な関係、そして互いの限界を理解したうえでの協働こそが、これからの時代の理想的な姿である。

そして規制業界においては、これは理想論ではなく要求事項である。EU AI Act 第14条、EU GMP Annex 22 ドラフトの Human-in-the-Loop、EMA リフレクションペーパーの「人間中心のアプローチ」、QMS省令の承認・照査・独立性の条文――いずれも、「AIに感情と想像力がない」という理解を制度に翻訳したものと読むことができる。

まとめ

現時点において、AIが感情と想像力を持つことを示す証拠は確認できない。これは技術的な限界というよりも、AIと人間の在り方の違いを示している。この点を正しく理解することで、AIに何を任せ、人間が何に注力すべきかが明確になる。

AIが「使う」ものから「任せる」ものへと進化するなかで、人間に求められるのは、感情と想像力を駆使した創造的な活動である。そして規制対象業務においては、それに加えて「通す／通さない」を自分の名義で決めるという、譲り渡せない役割がある。技術の進化を恐れるのではなく、人間とAIがそれぞれの強みを活かして共に成長していく未来を、私たちは築いていくべきである。