ヘルスケアにおける人工知能（AI）の可能性は、驚異的です。医療機器に関して言えば、AIの最も一般的なサブセットは機械学習（ML）であり、アルゴリズムが入力に基づいて「学習」するものです。この良い例が、最近承認された医療機器としてのソフトウェア（SaMD）で、医師が前立腺がんを識別するのに役立ちます。ここでのキーワードは、"手助け "です。医療機器におけるAI/MLの用途は、主に開業医を支援する役割です。規制当局は、人の健康状態を完全にアルゴリズムに委ねることに躊躇しているようです。

また、AI/MLを使ったSaMDに関する規制を打ち出すことも躊躇しているようです。公平を期すため、米国食品医薬品局（FDA）は「人工知能／機械学習（AI/ML）ベースの医療機器としてのソフトウェア（SaMD）行動計画」を策定し、関係者からの意見を集めている最中です。一方、FDA、カナダ保健省、英国医薬品・医療製品規制庁（MHRA）は、医療機器における優れた機械学習の実践のための指導原則を発表しています。これらの原則やその他の規制文書により、医療機器企業は、規制がどのようなものであるかを知ることができます。

データの重要性とデータの完全性
上記の原則を見る限り、主要な懸念はデータセットに関するものです。原則の1つは、データセットが意図された患者集団を代表するものであることを保証することを特に求めています。データの正確さは、データの完全性に関する基本的な原則に依存します。データは、アルゴリズムの学習方法であるため、正確なAIの基礎となるものです。理論的には、データは公平であるべきで、他の分析形式を腐敗させる可能性のある人間の弱点の影響を受けません。しかし、実際にはそうとは限りません。人間の偏見がAIを堕落させると、アルゴリズムの精度が損なわれてしまいます。

データの偏りに対処することは、正確なAIを確保するために不可欠な要素です。これは、医療機器や健康に影響を与えるその他のアプリケーションにおいて特に重要です。バイアスを排除するためには、AIを開発するために多様なチームを使うことが必要です。「公正さと包括性を促進するために、エンジニア、開発者、コーダーは包括的な行動を実践するだけでなく、さまざまな経験を持つ多様なバックグラウンドのメンバーで構成されるべきです。」と、Microsoft社の米国プロバイダー業界ナショナルディレクター兼最高看護責任者のMolly K. McCarthy氏は、医療情報および管理システム学会に執筆しています。

人間の重要性
指導原則のもう一つのテーマは、規制当局が "Human-AI team "と呼んでいるものです。アルゴリズムが単独でどのように機能するかは1つのことであり、現実の状況下で人間に使われながらどのように機能するかは必ずしも同じではありません。実環境でのテストの先でも、AIに関しては人間が最終的な意思決定者であることに変わりはないでしょう。AIを活用したSaMDは、医師に代わって意思決定をするのではなく、医師が使えるもう一つのツールになります。

AIが人間の関与なしに医療判断を下すのは早計です。AIの性質は常に変化しており、変更管理のための規制要件もあるため、AI単独で判断を下す事は現実的ではありません。FDAの「人工知能/機械学習（AI/ML）ベースの医療機器としてのソフトウェア（SaMD）アクションプラン」は、所定の変更管理計画について述べています。この理論的な要件は、制御された方法で予想される修正を可能にするものです。この計画の背後にある考え方は、AIが改良され成長しても、FDAは安全性と有効性を保証することができるというものです。AIの可能性と内在するリスクのバランスをとることは、規制当局がまだ解明しようとしていることなのです。

結論
AIはあらゆる分野で活躍していますが、医療機器の新しいカテゴリーを生み出し、次々と市場に出てきて医療を向上させます。これは有益なことですが、それなりの課題もあります。このチャンスを生かそうとする医療機器企業は、自社の機器に搭載されたAIを責任を持って取り扱う方法と、規制当局が期待していることについて詳しく知っておく必要があります。

AI対応SaMDの詳細と、医療機器におけるその他の破壊的なトレンドについては、「Medical Device Trends Impacting Quality」トレンドブリーフをダウンロードしてご覧ください。
 

本投稿は、英語の文献を元に翻訳または抄訳及び校正を行っており、本サイトに掲載されている全ての情報や画像の著作権は、当社（マスターコントロール株式会社）に帰属します（他社提供のクレジット表記入り画像等を除く）。コンテンツの再発行及び再配布は、個人利用の場合を除き、当社より許可を得た場合のみ可能です。また、本ブログを含む当社のWebコンテンツを利用することで発生する損害やトラブルについて、当社は一切の責任を負いません。