Anthropic社の開発（OpenAI元社員が設立）

Anthropic（アンソロピック）社は、AIの安全性研究を中核に据えることを掲げるAI開発企業である。同社が公開するAIアシスタント「Claude」は、いまや製薬・医療機器業界の実務でも日常的に使われはじめている。しかし規制産業の立場からすれば、問うべきは「どの会社が安全そうか」ではない。そのベンダーを自社の購買管理・外部委託管理の枠組みでどう評価し、どう記録に残すかである。本稿では、Anthropic社について公式情報で裏取りできる事実だけを整理したうえで、規制産業がAIベンダーを選定・監視するときの実務上の観点を、QMS省令・GMP省令・ISO 13485・ISO/IEC 42001の条項に結び付けて解説する。

1. Anthropic社について公式に確認できること

設立と経営体制

Anthropic社の設立は2021年である。同社が公表している最も古い時期の公式発表は、2021年5月28日付の資金調達に関するニュースリリースであり、そこには「Anthropic, an AI safety and research company」として、1億2,400万ドルのシリーズAを調達したことが記されている。同リリースでは、ダリオ・アモデイ（Dario Amodei）氏がCEO、ダニエラ・アモデイ（Daniela Amodei）氏がPresidentとして紹介されている。

また、同社の会社紹介ページには、法人形態としてPublic Benefit Corporation（公益重視型企業）を採用していること、およびその目的が「人類の長期的な利益のための高度AIの責任ある開発と維持」にある旨が明記されている。

「OpenAI元社員が設立」という説明をどう扱うべきか

Anthropic社はしばしば「OpenAIの元社員が設立した会社」と紹介される。この点について、同社自身の公式発表でどこまで確認できるかを確かめておく必要がある。

2021年5月28日のシリーズA発表では、創業チームがそれまでに手掛けた研究として「GPT-3」や「AI and Compute」といった成果が列挙されている。これらはOpenAIから公表された研究であり、創業メンバーがそうした研究に関与してきたことは同社の公式発表から読み取れる。一方で、当該リリースにはOpenAIという組織名そのものへの言及はなく、個々の創業者の前職での役職や、前職を離れた理由についての記述もない。

したがって本稿では、「創業メンバーが大規模言語モデル研究の第一線にいた人物であること」までを事実として扱い、退職の経緯、社内での意見対立、安全性をめぐる路線対立といった事柄には立ち入らない。これらは報道による記述は存在するものの、当事者が公表した一次情報として確認できるものではないためである。

2. Anthropic社が公表している技術・方針

同社が公式ドキュメントとして公表している技術・方針のうち、規制対応の観点から押さえておく価値があるものは次の2つである。いずれも公開文書として参照でき、ベンダー評価の資料として引用できる点に意味がある。

Constitutional AI（憲法的AI）

Constitutional AIは、AIの出力を人間が一件ずつ評価する代わりに、あらかじめ定めた原則（＝「憲法」）に照らしてモデル自身に自己批評と修正を行わせる手法である。同社の公式解説によれば、これは2段階で構成される。

1. 第1段階：自己批評と修正モデルが与えられた原則に基づいて自らの回答を批評し、修正することを学習する。
2. 第2段階：AIフィードバックによる強化学習人間のフィードバックの代わりに、AIが生成したフィードバックを用いて強化学習を行う。

この「Claudeの憲法」は同社サイト上で公開されており、有害・差別的な出力を避け、違法または非倫理的な行為を支援しないことを目標として掲げている。初出は2023年5月9日、その後改訂版が公開されている。

また同社は、Claudeについて「helpful, honest, and harmless（有用・正直・無害）」なAIシステムの研究に基づくものであると、2023年3月14日のClaude公開時の発表で説明している。いわゆる「3つのH」である。

Responsible Scaling Policy（RSP）とAI Safety Levels

2023年9月19日、同社はResponsible Scaling Policy（責任あるスケーリング方針、RSP）を公表した。これは、モデルの能力が上がるにつれて求められる安全対策の水準を段階的に引き上げるという枠組みであり、米国政府のバイオセーフティレベル（BSL）を緩やかに模した AI Safety Levels（ASL）という段階区分を用いる。

この考え方が実務上おもしろいのは、「リスクの大きさに応じて管理の強度を変える」という発想が、QMS省令・GMP省令・ISO 13485が要求するリスクベースアプローチとまったく同じ構造をしている点である。医療機器のQMSが、供給者の重要度に応じて監視・再評価の頻度と深さを変えるのと同型の考え方が、AI開発側でも公表されている。

解釈可能性（Interpretability）研究

同社はミッションとして「reliable, interpretable, and steerable AI systems（信頼でき、解釈可能で、操舵可能なAIシステム）」の構築を掲げており、AIの内部で何が起きているかを人間が理解できるようにする解釈可能性研究を公表している。規制対応の観点からは、この研究領域は「なぜその出力になったのかを説明できるか」という説明責任の問題に直結し得るが、現時点で当局が要求する水準の説明可能性を満たすことを意味するものではない点に留意が必要である。

3. 規制産業がAIベンダーを選ぶときに見るべき観点

ここからが本題である。AIベンダーの選定において、規制産業が確認すべき事項は、一般企業のそれとは重みが異なる。「どの記録が、どこに、いつまで、誰の管理下で残るのか」が査察・監査で問われるからである。

②「学習に使われるか」は必ず一次情報で確認する

この点は誤解が多いため、実例として確認しておく。Anthropic社は自社のプライバシーセンターにおいて、商用製品について次のように明記している。

同ページは続けて、利用者が明示的にフィードバックや不具合を報告した場合、あるいはデータ利用を許可した場合には学習に使用され得る旨も記載している。つまり「既定では使われない」ことと「絶対に使われない」ことは同じではない。個人向けプランと商用プランで方針が異なる点も含め、こうした条件は自社の運用ルール（誰がどのプランで何を入力してよいか）に落とし込んでおく必要がある。

4. AIサービスを購買管理・外部委託管理にどう位置づけるか

AIサービスは新しい技術だが、それを管理する枠組み自体は新しく作る必要がない。既存のQMS／GMPの購買管理・外部委託管理の枠組みに正しく位置づければよい。以下、条文で確認する。

QMS省令――購買工程（第37条）

医療機器のQMS省令（医療機器及び体外診断用医薬品の製造管理及び品質管理の基準に関する省令、平成16年厚生労働省令第169号）は、第37条（購買工程）において供給者の評価・選定基準を定めることを求めている。同条第2項が掲げる考慮事項は次の4つである。

さらに同条は、第3項で供給者に対する監視および再評価の計画策定を、第4項でその計画に基づく監視と再評価の実施を、第6項でこれらの評価・選定・監視・再評価の結果に係る記録の作成と保管を求めている。AIベンダーを供給者として扱うのであれば、「選んで終わり」ではなく、監視と再評価を計画的に回すことが条文上の要求になる。モデルが継続的に更新されるAIサービスでは、この再評価の重要性は通常の資材供給者よりむしろ高い。

QMS省令――購買情報（第38条）とモデル変更の事前通知

第38条（購買情報）は、購買情報に含めるべき要求事項として「購買物品等の仕様」「供給者の事業所における手順、工程並びに設備及び器具に係る要求事項」「供給者の構成員の適格性の確認に係る要求事項」「供給者の品質管理監督システムに係る要求事項」を挙げている。

そして実務上とりわけ重要なのが同条第3項である。ここでは、購買物品等要求事項への適合性に影響を及ぼす変更を供給者があらかじめ通知することについて、書面で合意した内容を購買情報に含めることが求められている。

QMS省令――購買物品等の検証（第39条）と外部委託（第5条の5）

第39条（購買物品等の検証）は、購買物品等が要求事項に適合していることを確保するための試験検査その他の検証手順の確立・実施を求め、供給者の評価結果に基づき、リスクに応じて検証の範囲を定めることとしている。同条第2項は購買物品等の変更時に、その変更が製品実現に係る工程または医療機器等に及ぼす影響を検証することを求めており、第4項で検証記録の作成・保管を要求している。AIサービスのモデル更新時に「何を、どこまで再検証するか」を決めておく根拠がここにある。

他方、AIサービスが単なる「購買物品」ではなく工程そのものの外部委託に当たる場合は、第5条の5（外部委託）が適用される。同条は、製品要求事項への適合性に影響を及ぼす工程を外部委託したときに、当該工程が受託事業者により管理されているようにすること、製品に関連するリスク及び受託事業者の能力に応じた方法により工程を管理すること、そして管理の方法について合意した場合はその内容を品質に関する実施要領に定めることを求めている。

ISO 13485:2016――7.4 購買

ISO 13485:2016では、購買に関する要求事項は箇条7.4に置かれている。構成は7.4.1 購買プロセス、7.4.2 購買情報、7.4.3 購買製品の検証であり、上述のQMS省令第37条～第39条とおおむね対応する。海外規制当局の査察やMDSAP監査を受ける企業は、社内手順を規格の箇条番号と省令の条番号の両方に紐づけておくと、質問への回答が格段に速くなる。

GMP省令――外部委託業者の管理（第11条の5）

医薬品側では、GMP省令（医薬品及び医薬部外品の製造管理及び品質管理の基準に関する省令、平成16年厚生労働省令第179号）の第11条の5（外部委託業者の管理）が該当する。

「文書による取決め」「適性及び能力の事前確認」「定期的な確認」「記録の作成と保管」――この4点セットは、AIベンダーを利用する場合にもそのまま当てはまる。なお、原料等の供給者については第11条の4（原料等の供給者の管理）が別に置かれている。

そのAIサービスは「購買物品等」か「外部委託工程」か

実務上まず整理すべきは、そのAIサービスが自社のどの工程に、どの深さで入り込んでいるかである。

コンピュータ化システムバリデーションの考え方そのものについては、ER/ES実践講座（第7回）続報 ― 2008年のCSV課題は解決したかもあわせてご参照いただきたい。

5. 社内側の枠組み――AI事業者ガイドラインとISO/IEC 42001

ベンダーを評価する（外向き）だけでは足りない。自社がAIをどう使うかを統治する枠組み（内向き）も必要である。参照できる公的・国際的な枠組みは次のとおりである。

AI事業者ガイドライン（総務省・経済産業省）

総務省と経済産業省は、従来別々に存在した複数のガイドラインを統合し、「AI事業者ガイドライン」を策定している。第1.0版が2024年4月19日、第1.01版が2024年11月22日、第1.1版が2025年3月28日に公表された。本編が「なぜ（基本理念）」と「何を（遵守すべき指針）」を示し、別添（付属資料）が「どのように（実践的な取組み）」を示す構成である。

同ガイドラインは、AIの開発者・提供者・利用者という主体ごとに求められる取組みを整理している点が実務上有用である。製薬・医療機器企業の多くは「利用者」に該当するが、自社製品にAIを組み込むのであれば「提供者」あるいは「開発者」の立場も併せ持つことになる。自社がどの立場に立つのかを最初に決めることが、社内規程を書き始める前提になる。

ISO/IEC 42001:2023（AIマネジメントシステム）

ISO/IEC 42001:2023は、組織におけるAIマネジメントシステム（AIMS）の確立・実施・維持・継続的改善に関する要求事項を規定した国際規格である。AIベースの製品・サービスを提供または利用するあらゆる組織に適用でき、規模・業種を問わない。世界初のAIマネジメントシステム規格であり、独立した認証機関による認証も行われている。

ISO 13485やISO 9001と同じマネジメントシステム規格の構造（High Level Structure）を採っているため、既存のQMSにAIMSの要求事項を統合する形で構築できる。文書管理・記録管理・内部監査・マネジメントレビューといった共通要素を二重に作る必要はない。なお、AIMSの審査・認証機関に対する要求事項はISO/IEC 42006として別に定められている。

製品にAIを載せる場合――FDAとPMDAの動き

自社製品にAIを組み込む場合は、規制当局側のガイダンスも参照する必要がある。米国FDAは2025年1月6日にドラフトガイダンス「Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submission Recommendations」を公表し、AI搭載機器についてTPLC（総製品ライフサイクル）を通じたリスク管理と、市販後の性能モニタリングを申請書類でどう記述すべきかを示している。あわせて、AI搭載機器向けのPCCP（事前変更計画）に関するガイダンスも整備されている。

国内では、PMDAが「AIを活用したプログラム医療機器に関する専門部会」を設置し、機械学習におけるバイアス、市販後学習における評価データの再利用等の課題を検討している。プログラム医療機器に関する情報とあわせて確認されたい。

6. 「安全性を掲げる企業だから安心」ではない

本稿でAnthropic社の公表文書を紹介したのは、同社を推奨するためではない。公表文書があること自体は評価の入口にすぎず、評価の結論ではないことを示すためである。

AIベンダーに固有のリスクとして、事業継続性の問題も無視できない。急速に競争が進む領域であり、サービス統合・提供終了・料金改定・利用規約変更のいずれも起こり得る。だからこそ、前掲の観点⑨「記録の可搬性」――サービスが終了したときにGxP記録をどの形式でいつまでに取り出せるか――を契約時に決めておく意味がある。AIベンダーに依存することのリスクについては、#QuitGPT ― ChatGPTに「解約」を突きつける市民ボイコットの深層もあわせてご覧いただきたい。