「責任あるAI」を実現する道

グローバル・スタンダードとしての「責任あるAI」の確立に対する必要性は必然であり、残る課題としては、その対象や時期、そして、どの国の規制当局が世界が追随するようなガイドラインを発行するのかという点です。後者については、現時点で米国及びEU（欧州連合）がリードしており、2021年のこれまでの動きだけをみても、米国及びEUは大きな進展を遂げています。

• 1月12日：FDA（米国食品医薬品局）は、初のAI（人工知能）及びML（機械学習）をベースとしたSaMD（Software as a Medical Device）に対するアクションプラン "を発表*⁶
• 3月31日：ハーバード・ビジネス・レビュー（HBR）が報じたように、米国の5大連邦金融規制当局は、銀行におけるAIの利用方法に対する情報要請を発表、金融機関に対して新たなガイダンスが適用されることを示唆*⁷
• 4月19日：FTC（米国連邦取引委員会）は、HBRの記事にて、AIに関する事実や公平性、公正性に関する異例の大胆なガイドラインを発表
• 4月21日：欧州委員会がAI規制の提案を発表

EUの法的枠組みは、初めてAIに対してリスクベースのアプローチを求める内容であり、その発表時には、世界標準を目指しているとの声明も発表しました。*⁸

しかし、EUの提案には様々な意見も上がっています。ブルッキングス研究所は、「枠組みの一部は健全である一方、アルゴリズムの公平性などは十分な注意が払われていない。また、シリコンバレーでは全体的に、新技術を規制すべきではないと考えられている」点を指摘しています。*⁹　米国のジェイク・サリバン国家安全保障顧問も、「米国はAIに関するEUの新たな取り組みを歓迎する。同盟国と協力し、価値観の共有や全ての人々の尊厳と権利を守るというコミットメントに基づいて、信頼できるAIを育成する。」と、SNSを通じて支持を表明しています。*¹⁰

この提案の法制化までに、欧州議会及び加盟国は意見を述べる必要がありますが、AIに対する規制を展開するには、まだ時間がかかることが想定されています。参考ではありますが、GDPRは2012年に提案された4年後に議会にて承認され、法制化されたのは2018年でした。*¹¹

国際的なガイダンスの策定が推進されていく中で、カナダやフランス、ロシア、中国など、多くの国でも独自の規制や基準の制定が進んでいます。米国も、「Guidance for Regulation of Artificial Intelligence Applications（人工知能アプリケーションの規制に関するガイダンス）」と題した覚書の草案を2019年に発表し、翌年にはコメントを募集しています。*¹²　現在のペースを考えると、このガイダンスの別の版が近日中にはリリースされると予想しています。

まとめ

私たちは現在、変革の入り口と言える段階に来ており、現在と将来のニーズを見極める必要があります。「責任あるAI」を成功させるには、業界の状況に基づいた合理的な規制方針を継続的に策定し続けることが当面の目標です。「責任あるAI」と関連規制の枠組みが策定されたら、技術の発展に合わせて改良し、継続的に目標を達成し続ける必要があります。

ライフサイエンス業界において長期的な成功に導くには、すぐにでもその内容に合意する必要があります。「責任あるAI」の為に現時点で考えられている要件はあくまで出発点であり、将来的にはより高い水準の内容へと引き上げていく必要があります。

例えば、AIから導き出された結果や結論から考察可能な要素に対して、内容がポジティブであるかネガティブであるかは問わず、全てを注視する必要があります。その為には、AIが判断した内容に対する確認や検証を行うための新しいアプローチを開発し、判断の根拠となるデータモデルをより優れた内容へと進化させる必要があります。理想を高く持つことで、AIが暮らしを改善し、命を救う私たちの仕事をより高いレベルで実行できる世界に導くことができるのです。

本記事は連載企画の後編です。前編をご覧になりたい方は、こちらをクリックしてください。


参照

1. International evaluation of an AI system for breast cancer screening, S.M. McKinney, M. Sieniek, et al., Nature, January 1, 2020
2. Responsible AI: A Framework for Building Trust in Your AI Solution, Dominic Delmolino and Mimi Whitehouse, Accenture 2018.
3. Supra note 2.
4. PwC’s Responsible AI, PwC.
5. The Responsible Machine Learning Principles, The Institute for Ethical AI & Machine Learning.
6. FDA Releases Artificial Intelligence/Machine Learning Action Plan, The U.S. Food and Drug Administration, January 12, 2021.
7. New AI Regulations Are Coming. Is Your Organization Ready?, Andrew Burt, Harvard Business Review, April 30, 2021.
8. Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence, European Commission, April 21, 2021.
9. Machines learn that Brussels writes the rules: The EU’s new AI regulation, Mark MacCarthy and Kenneth Propp, Brookings, May 4, 2021.
10. The United States welcomes the EU’s new initiatives…, Jake Sullivan, Twitter, April 21, 2021.
11. What is GDPR? The summary guide to GDPR compliance in the UK, Matt Burgess, Wired, March 24, 2020.
12. Request for Comments on a Draft Memorandum to the Heads of Executive Departments and Agencies, “Guidance for Regulation of Artificial Intelligence Applications, Federal Register, January 13, 2020
     

著者のご紹介
Rajesh Talpade

機械学習とディープニューラルネットワークを活用した画像や動画の識別・分析を行うClarifai社のバイスプレジデントを務め、グーグル社にも6年近く在籍し、世界最大のIPネットワークのモバイル広告製品やコンテンツ配信ネットワーク、ネットワーク管理製品に携わり、グーグルのMLに関する専門知識を活用し、顧客に提供する価値を向上させました。現在は、マスターコントロール製品のSenior Vice Presidentを務めており、グローバルに展開するライフサイエンス企業が、人生を変えるような製品をより多くの人々に早く提供できる支援をする製品管理および設計を担当しています。

 

本投稿は、英語の文献を元に翻訳または抄訳及び校正を行っており、本サイトに掲載されている全ての情報や画像の著作権は、当社（マスターコントロール株式会社）に帰属します（他社提供のクレジット表記入り画像等を除く）。コンテンツの再発行及び再配布は、個人利用の場合を除き、当社より許可を得た場合のみ可能です。また、本ブログを含む当社のWebコンテンツを利用することで発生する損害やトラブルについて、当社は一切の責任を負いません。