AI搭載医療機器の開発と規制の現状：データ利用、倫理、製造物責任に関する法的考察
はじめに
近年、人工知能（AI）技術の医療分野への応用は目覚ましく、診断支援、治療計画、創薬、医療機器の最適化など、その活用範囲は拡大の一途を辿っています。特にAIを搭載した医療機器は、その高度な処理能力と学習能力により、従来の医療機器ではなし得なかった精密な診断や個別化された治療を可能にし、医療の質向上に大きく貢献することが期待されています。
しかしながら、AI搭載医療機器の急速な発展は、既存の法規制や倫理的枠組みでは想定されていなかった新たな課題を提起しています。本稿では、AI搭載医療機器の法的・倫理的課題に焦点を当て、特にデータ利用と個人情報保護、AI倫理、そして製造物責任の三つの側面から、その現状と実務上の留意点について考察いたします。
AI搭載医療機器の特性と法的位置付け
AI搭載医療機器とは、AI技術を用いて、疾病の診断、治療、予防などの医療目的を達成する機器を指します。その特徴としては、大量のデータを基に学習し、特定のタスクにおいて人間の能力を上回る精度を発揮する点、また、使用環境やデータ入力によって性能が変化しうる点が挙げられます。
国内においては、医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（薬機法）に基づき、一般的な医療機器と同様に製造販売承認審査が行われます。しかし、AIのブラックボックス性（判断根拠の不透明さ）や継続的な学習による性能の変化は、従来の医療機器の承認・規制の枠組みでは十分に評価しきれない課題をもたらしています。独立行政法人医薬品医療機器総合機構（PMDA）は、これらの特性を踏まえた審査ガイドラインの策定を進めており、例えば「医療機器プログラムの承認審査における考え方について」などの通知を通じて、AIの評価手法や変更管理に関する指針を示しています。
データ利用と個人情報保護の課題
AI搭載医療機器の開発には、膨大な医療データの収集と解析が不可欠です。この医療データには、患者の機微な個人情報が多く含まれるため、個人情報保護法および関連ガイドラインの厳格な適用が求められます。
1. 同意取得の範囲と透明性
医療データの利用においては、個人情報保護法における要配慮個人情報として、本人の同意取得が原則となります。AI開発においては、将来的な研究開発や機能拡張を見据え、包括的な同意取得のあり方が議論されています。しかし、同意の範囲が不明確である場合や、データ利用目的の変更が生じた場合に、改めて同意を取得する必要があるのかどうかは、実務上慎重な判断を要すると考えられます。患者に対する情報提供の透明性を確保し、データ利用の目的、方法、管理体制について具体的に説明することが重要となります。
2. 匿名加工情報・仮名加工情報の活用
個人情報保護法における匿名加工情報や仮名加工情報の制度は、個人を特定できないよう加工することで、本人の同意なくデータを利活用できる途を提供します。AI開発におけるデータ利用の促進策として期待されますが、適切に加工が行われているかの検証、および再識別リスクの管理には高度な専門知識と技術が必要です。特にAIモデルの再学習に利用する際に、加工元の個人情報との紐付けをいかに管理するかは継続的な課題となります。
3. 越境データ移転
AI搭載医療機器が国際的に開発・運用される場合、医療データの越境移転が問題となります。各国・地域の個人情報保護法制（例：EUのGDPR）は、域外へのデータ移転に厳しい制限を課すことが多く、移転先の国における保護水準の確認や、適切な契約措置（標準契約条項など）の締結が不可欠となります。
AI倫理と透明性・公平性
AI搭載医療機器の倫理的側面は、その診断・治療判断が患者の生命・健康に直接影響を与えるため、極めて重要です。
1. 透明性（説明可能性）の確保
AIの判断プロセスが「ブラックボックス」であることは、診断結果や治療推奨の根拠が不明瞭となるため、医療従事者や患者にとって信頼性の問題となります。診断の誤りや副作用が発生した場合に、その原因を特定し、責任を追及する上でも、AIの意思決定メカニズムをある程度説明できる「説明可能性（XAI）」の確保が求められます。
2. 公平性（バイアス）の排除
AIモデルの学習データに人種、性別、年齢、地域などの偏りがある場合、特定の集団に対して不正確な診断結果や不適切な治療推奨を行う「アルゴリズムバイアス」が生じる可能性があります。これは医療における公平性原則に反するものであり、倫理的に許容されません。多様なデータを収集し、モデルの公平性を継続的に検証する仕組みの構築が急務です。
3. 人間による監視と最終意思決定
AIは強力なツールである一方で、その判断が常に正しいとは限りません。最終的な診断や治療の意思決定は、常に人間の医療従事者が責任を持って行うべきであるという原則は重要です。AIを補助ツールとして位置づけ、人間がAIの出力を適切に評価・解釈し、最終判断を下すための体制とスキルが求められます。
製造物責任の新たな論点
AI搭載医療機器の普及は、従来の製造物責任法（PL法）の枠組みに新たな課題を提起しています。
1. 「欠陥」の認定基準
PL法において製造物責任が認められるためには、「欠陥」の存在が前提となります。しかし、AIは学習によって性能が変化し、また統計的推論に基づくため、完全に予測不能な誤りを生じさせる可能性も否定できません。AIが学習プロセスを経て設計時には想定されなかった判断を行った場合、それを「欠陥」とみなすか否か、また、いつの時点での性能を基準として欠陥を判断するのかは、法的な議論の対象となると考えられます。
2. 責任の所在の複雑化
AI搭載医療機器の場合、開発者（アルゴリズム開発）、製造者（ハードウェア製造）、データ提供者、医療機関、医療従事者など、多くの関係者が関与します。AIの誤作動や不適切な使用によって損害が発生した場合、どの主体が、どのような範囲で責任を負うべきか、責任の所在が複雑化する可能性があります。特に、AIが継続的に学習・更新されるSaaS型医療機器の場合、更新後の性能変化による不具合について、誰が責任を負うべきかは重要な論点です。
3. 予見可能性と回避可能性
PL法では、欠陥の予見可能性と回避可能性が責任判断の重要な要素となります。AIの進歩は急速であり、開発時点では予見できなかったリスクや、回避が困難な技術的制約が存在する場合があります。これらの点をどのように評価し、適切な注意義務の範囲を設定するかが問われます。
実務上の留意点と今後の展望
AI搭載医療機器の開発・利用に携わる事業者および医療機関は、以下の点に留意し、実務を進めることが重要です。
- 開発段階からの法的・倫理的リスク評価: 設計段階から、データプライバシー（Privacy by Design）や倫理的配慮（Ethics by Design）を組み込むことが不可欠です。専門家による法的・倫理的リスクアセスメントを定期的に実施し、潜在的な問題を早期に特定し対処する体制を構築してください。
- データガバナンス体制の強化: データの収集、管理、利用、破棄に至るまでのライフサイクル全体にわたる厳格なガバナンス体制を構築し、個人情報保護法および関連ガイドラインを遵守することはもちろん、国際的な規制動向にも常に注意を払う必要があります。
- 適切なインフォームド・コンセント: 患者に対し、AIがどのようにデータを取得・利用し、判断を下すのか、またその限界やリスクについて、平易かつ正確に情報を提供し、十分な理解に基づいた同意を得ることが求められます。
- 説明責任の明確化と保険制度の検討: AI搭載医療機器に関するトラブル発生時の責任分担について、契約書等で明確化する努力が求められます。また、AI特有のリスクをカバーする新たな保険制度の構築や、既存の保険制度の適用範囲の見直しも、今後の検討課題となるでしょう。
- 国際的な規制動向への注視: EUのAI法案に代表されるように、AI規制の国際的な動きは活発化しています。日本の法規制も、これらの国際動向と連携しつつ、より具体的な指針や法整備が進むことが予想されます。
AI搭載医療機器は、その計り知れない可能性とともに、法務および倫理の専門家が深く関与すべき新たな課題を提示しています。今後も技術の進展に合わせて、柔軟かつ実効性のある法的・倫理的枠組みの構築が求められることになります。