AI法とSaMD開発

2024.10.31

AI法とは

AI法は、EUが世界で初めて制定した包括的なAI規制法である。本法は、AIシステムをそのリスクレベルに応じて分類し、段階的な規制要件を課すという特徴を持つ。具体的には、容認できないリスク、高リスク、限定的リスク、最小リスクの4段階に分類され、それぞれに応じた規制要件が設定されている。

高リスクAIシステムに対しては、リスク管理システムの構築、高品質なデータセットの使用、詳細な文書化、人間による監視などが求められる。違反に対する制裁も厳格であり、最大で全世界年間売上高の7%または3500万ユーロの罰金が課される可能性がある。

AI法は2024年8月1日に発効し、2026年8月2日から適用が開始される予定である。この法律はEUの域内だけでなく、域外にも適用される可能性があり、グローバルな影響が予想される。

AI法におけるSaMDの位置づけ
SaMDは、AI法において高リスクAIシステムとして分類される。これは医療機器規則（MDR）の対象となるAIシステムが自動的に高リスクに分類されることによる。この分類により、SaMDには厳格な規制要件が課されることとなる。

SaMDに求められる主要な要件として、AIシステムの説明可能性の確保、継続的な性能モニタリング、バイアス検出と制御が挙げられる。特に医療分野における意思決定支援システムでは、その判断過程の透明性と説明可能性が重視される。

AI法とMDRの二重規制への対応
SaMD開発企業は、AI法とMDRという二つの規制フレームワークへの対応が必要となる。MDRでは従来から、臨床評価データの収集、品質マネジメントシステムの構築、市販後調査の実施が求められてきた。これに加えてAI法では、AIシステム特有の要件として、アルゴリズムの透明性確保、継続的な性能評価、人間による適切な監視が求められる。

この二重規制への対応においては、既存のMDR対応プロセスをベースとしつつ、AI特有の要件を組み込んだ統合的な品質管理体制の構築が求められる。AI法は既存のMDR技術文書システムを活用し、Annex IV情報を追加することで対応可能とされているが、両法の整合性に関する懸念が業界から指摘されている。

実務的な対応の方向性

実務面での対応として、まず組織体制の整備が不可欠である。具体的には、AI倫理委員会の設置、AIリスク管理責任者の任命、全社的な教育・トレーニングプログラムの実施が必要となる。

技術面では、説明可能なAI（XAI）技術の採用を検討すべきである。また、データの品質管理体制の強化、バイアス検出・軽減システムの導入、監査証跡の自動記録システムの実装も重要となる。

品質保証においては、AIの特性を考慮した新たなバリデーション手順の確立が必要である。継続的な性能モニタリングと定期的な再評価のプロセスを構築し、システムの信頼性を担保する体制を整えることが求められる。特に、品質管理システム（QMS）の実装がAI法で義務付けられている点に注意が必要である。

AI法がSaMD開発に与えるインパクト

AI法の施行は、SaMD開発に大きな変革をもたらすことが予想される。まず、開発プロセスへの影響として、初期段階からのリスク評価の実施、継続的なモニタリング体制の確立、詳細な文書化の必要性が挙げられる。これにより開発期間の長期化とコストの増加が懸念される。

一方で、この規制対応は製品の信頼性向上にもつながる。適切なリスク管理と品質保証体制の構築は、結果として製品の安全性と有効性を高め、市場での競争力強化にもつながり得る。

中小企業（SMEs）に対しては、簡略化された技術文書の提供が認められる予定であり、規制対応の負担軽減が図られている。

さらに、グローバルな影響も考慮する必要がある。EUのAI法は、他地域における規制の模範となる可能性が高く、グローバルスタンダードとしての影響力を持つことが予想される。そのため、早期からの対応準備が、国際市場での優位性確保につながるものと考えられる。

医療AIの発展において、適切な規制の枠組みは不可欠である。AI法への対応は確かに負担ではあるが、これを契機として医療AIの品質と信頼性を高め、より安全で効果的な医療の実現に貢献することが期待される。SaMD開発企業には、この規制変更を前向きな変革の機会として捉え、戦略的な対応を進めることが求められる。

なお、AI責任指令（AI Liability Directive）も並行して検討されており、AI関連の損害賠償請求に対する責任ルールの適用を目的としている。これにより、AI開発者や提供者の法的責任がより明確になることが予想される。