ライフサイエンス業界では、AI（人工知能）やML（機械学習）の活用が、業界の常識となる時代が急速に近づいています。
 
昨年、複数の地域の担当者で構成されたチームが開発したAIシステムが、乳がんを検出できることを実証し、一部は医療専門家の想定を上回る結果を導き出すことができました。*¹
 
AIは非常に大きな影響を与えていますが、それ以上に重要な点は、AI/MLの取り組みに対する義務として、「責任」を持つ必要があるということです。
 
医療従事者は、この技術が危害や損害を引き起こす要因になることを避ける為に努力しており、開発側も同様の認識で推進する必要があります。また、この業界では他の業種よりも高い水準で、これを実行する必要があります。
 

「責任あるAI」を通じて信頼を得る
 
過去を振り返ってみると、人々は、新しいテクノロジーに対して不信感を抱く傾向があり、より複雑な内容になればなるほど、不信感が高まる傾向があります。人々から新しいテクノロジーに対する信頼を得ること自体は特別なことではないですが、AIの複雑性や学習に求められる膨大なデータに関しては、未知の領域であるという観点もあります。アクセンチュア社の報告書によると、AIに対する一般的な懸念として次の内容が存在していると発表されました。

• 人員の削減
• プライバシーの損失
• 意思決定にバイアスがかかる可能性
• 自動化されたロボットやシステムに対するコントロールの欠如*²

「責任あるAI」とは、信頼関係を築く上での基礎となる要素であり、これが無ければAIを普及させることはできません。信頼は非常に大きな意味を持つ為、Googleやマイクロソフトなどテクノロジー分野のリーダーは、「責任あるAI」と位置付けられるモデルを開発し、前述の懸念事項の解決方法を企業と共有しています。グローバル・スタンダードはまだ完成していませんが、多くの「責任あるAI」のモデルは、本項でご紹介している内容と同じ性質を有しており、人間を中心に据え、情報公開が適切に管理され、偏見がなく、透明性のあるフレームワークを構築することで、人々の恐怖心を緩和することを目的としています。

人間を中心に：よくある誤解の一つにAIが人間に取って代わる可能性があるという話がありますが、人間は引き続き、重要な役割を担います。その一例として、アクセンチュア社が発表した「責任あるAI」のモデルでは、バイアスや望まない結果等を防止する為、人間がアルゴリズムを監視すべきであると述べでいます。*³

プライバシー：効果的な機械学習にはデータが必要ですが、個人のプライバシーを妥協することは許されません。ライフサイエンスでは、センシティブなデータを扱うことが多い為、プライバシーとセキュリティーに対する確かなコミットメントが求められます。

バイアス：偏ったデータに基づいているAIは、偏った結論を導く可能性があり、そのようなデータに基づいた意思決定は非常に危険です。PwC社は、「責任あるAI」の構成要素として、データの偏りを認識し、是正することで、システムの意思決定を改善できると述べています。*⁴

透明性：テクノロジーへの不信感は、テクノロジーがどのように機能するかを理解していないことに起因することがあります。これを解決するためには、人やツールが特定の結果や結論に至った経緯を説明できなければなりません。Institute for Ethical AI & Machine Learningも、機械学習の透明性と説明性を合理的に改善できるツールの開発を推奨しています。*⁵

最終的には、このような基準は規制当局によって定義されることになると思っています。しかし、現時点では、業界側が独自にフレームワークとモデルの共通認識の定義を確立し、今後、発出されるであろう規制に備えることが有益であると考えています。

本記事は連載企画の前編です。後編をご覧になりたい方は、こちらをクリックしてください。

 

著者のご紹介
Rajesh Talpade

機械学習とディープニューラルネットワークを活用した画像や動画の識別・分析を行うClarifai社のバイスプレジデントを務め、グーグル社にも6年近く在籍し、世界最大のIPネットワークのモバイル広告製品やコンテンツ配信ネットワーク、ネットワーク管理製品に携わり、グーグルのMLに関する専門知識を活用し、顧客に提供する価値を向上させました。現在は、マスターコントロール製品のSenior Vice Presidentを務めており、グローバルに展開するライフサイエンス企業が、人生を変えるような製品をより多くの人々に早く提供できる支援をする製品管理および設計を担当しています。

 

本投稿は、英語の文献を元に翻訳または抄訳及び校正を行っており、本サイトに掲載されている全ての情報や画像の著作権は、当社（マスターコントロール株式会社）に帰属します（他社提供のクレジット表記入り画像等を除く）。コンテンツの再発行及び再配布は、個人利用の場合を除き、当社より許可を得た場合のみ可能です。また、本ブログを含む当社のWebコンテンツを利用することで発生する損害やトラブルについて、当社は一切の責任を負いません。