自動化の時代における市民社会：
人工知能、機械学習およびボットの恩恵とリスク

　本稿（Beth Kanter・Allison Fine著）は戸田記念国際平和研究所の政策提言No.26「自動化の時代における市民社会：人工知能、機械学習およびボットの恩恵とリスク（Civil Society in the Age of Automation: Understanding the Benefits and Risks of Artificial Intelligence, Machine Learning, and Bots）」（２０１８年１１月）に基づくものである。

要旨

　自動化の時代が到来し、ロボット、チャットボット、人工知能、機械学習、対話型インターフェース、サイボーグなどのスマート機器を含むさまざまな技術が使われるようになった。これらの技術はますます組織と人間の間のインターフェースになりつつある。人工知能（ＡＩ）は自動化を通じて人間性を奪い、破壊する恐れがあるとの見方がある一方で、ＡＩの拡大により市民社会組織がその活動を増強して、ステークホルダーにより良いサービスを提供し、社会変化に伴う重大な問題を解決するのにＡＩが役立つだろうという楽観的な見方もある。

　ＡＩの恩恵を受けるには、設計と実装の段階で人間中心の姿勢を取り入れ、イノベーションやデータユニットを超えて事業全体にまで適用範囲を拡大し、想定外の壊滅的な結果を回避できるよう最高レベルの倫理基準を維持することが求められる。

自動化技術が破壊的になりそうな理由

　人工知能、機械学習、ボット、ロボットは、政府、金融、国家安全保障、医療、刑事司法、運輸、芸術など、我々の生活のあらゆる側面で使用されている。

　世界中の政府がＡＩへの投資を行っており、一部の専門家からはＡＩ軍拡競争と呼ばれるまでになっている。技術を牽引するリーダーたちの中には、人工知能の潜在的な危険と予期せぬ結果について警鐘を鳴らしている者もいる。

　人工知能とは何か、何をすることができるのかについて多くの経営者が基本的レベルの理解さえできていないかもしれないが、民間セクターは、従来のビジネスモデルを人工知能を活用したビジネスモデルに転換させる方法を学びながら、事業と組織を自動化の時代に備えさせる方法を把握しようとしている。市民社会組織も戦略プランの中で自動化の潜在的影響を検討することが必要不可欠である。ＡＩへの対応を評価するＡＩレディネスフレームワークは、五つの基本的ビジネス領域（戦略、人材、データ、インフラ、倫理）において機械学習と人工知能を統合するために必要とされるデータ、インフラのみならず、人材、倫理、戦略、実践面で配慮すべき事柄を評価対象としている。

人間中心のＡＩの必要性

　グーグル・クラウド（Google Cloud）のＡＩリサーチ・チーフサイエンティストでありスタンフォード人工知能研究所の所長を務めるフェイフェイ・リー（Fei-Fei 　Li）氏は、人間の関心事によって導かれる人工知能、すなわち「人間中心のＡＩ」という新しい表現を作り出した。「ＡＩへの人間中心のアプローチとは、これらの機械が私たちの競合相手である必要はなく、むしろ私たちの幸福を保証するためのパートナーであるという意味です。私たちの技術がどれだけ自律的になったとしても、それが世界に与える影響は、良くも悪くも常に私たちの責任になるでしょう」

　技術倫理学者は、自動化されたシステムが我々の生き方や働き方をどのように変えるのかについて問いを投げかけている。人類を補助するＡＩを設計するにあたり、ビジネスシステムの設計者は、（１）仕事の遂行における自動化の利用を最小限にする、（２）自動化の導入に先立ち効率を向上させる、（３）自動化を強いる相手を間違えないようにする、（４）自動化があらゆる現実世界のシナリオを説明できるわけではないことを認識する、（５）人間が最も得意とすることを増強し、機械が最も得意とすることを増強する、という原則に従って作業する必要がある。

　世界経済フォーラムのケイ・ファース・バターフィールド（Kay Furth-Butterfield）氏は、ＡＩの倫理的課題について、バイアス、透明性、説明責任、プライバシーという四つのカテゴリーで説明している。彼はＡＩの訓練を受ける学生は全員、コーダーの人間的バイアスを認識することから、技術をどのように使用するかに関して倫理的な決定を下すことに至るまで、倫理的使用の訓練も受けるべきだと考えている。

　ＡＩ分野が人間中心主義の見方を保持し、社会的影響力をもつよう努めるという使命に基づいて、いくつかの市民社会組織が設立されている。例えば、ＡＩ４ＡＬＬという組織は、全米とカナダ各地で教育プログラムや指導プログラムを実施することにより、ＡＩ分野で多様性と包摂性を向上させることに専念しているＮＧＯである。

　２０１８年１月には、バージニア・ユーバンクス(Virginia Eubanks)氏が『Automating Inequality』を出版した。この本は、データマイニング、ポリシーアルゴリズム、予測リスクモデルに伴って生じるアルゴリズムによる差別やバイアスと、医療、司法および警察活動などの決定に関連して生じうる貧困コミュニティーへの有害な影響を詳しく分析している。

　その他の動きとして、アルゴリズム・ジャスティス・リーグ（Algorithmic Justice League）がアルゴリズムによるバイアスの問題を正面切って攻撃する中、自動化の最も悲惨な影響に直面している人々の声や経験が取り入れられるようにするため、データサイエンティストにとっての「ヒポクラテスの誓い」の必要性が指摘されている。

市民社会組織と人工知能を用いた実験

　市民社会組織には、その使命、計画、コミュニケーション、資金集め、内部業務をさらに進められるようＡＩを活用する潜在能力がある。

　非営利組織や市民社会組織が立ち上げた何種類かの試験的プロジェクトの中で最も普及しているのが、チャットボットの使用である。チャットボットは、一般的にフェイスブック・メッセンジャー上でボットの制作、テストおよび実装を容易にする「ボットオーサリング・ソフトウェアプラットフォーム」を使用して、人間の会話を模倣するコンピュータインターフェースである。

　多くの国際開発組織が、イノベーション部門を通じて、民間セクターの協力を得てＡＩを使ったプロジェクトの調査研究、資金提供、試験的な実施を積極的に進めている。例えば、ユニセフ・イノベーション・ファンドは、発展途上国の子どもたちへの援助を目的とした製品の考案を行うＡＩ、データサイエンス、ＶＲのスタートアップ企業数社に資金提供している。

　他方、ＡＩに取り組んでいる技術企業数社は、自社の研究所でソーシャルグッド組織と提携している。ＩＢＭは、社会的責任の取り組みの一環として、「Doing Good in A Cognitive Era」というイニシアチブで複数のリサーチプロジェクトを継続している。

プログラム情報の配信

　国連世界食糧計画（WFP）は、プログラムに関する情報を難民に配信するためのチャットボットを開発、テストするにあたり、人間中心の設計方法を用いている。例えば「フードボット（Foodbot）」は、食料の確保に関する有益な情報を受け取り、ステークホルダーと共有する。

　英国のアースライティス・リサーチ（Arthritis Research UK）とＩＢＭは関節炎を患う人々のためにワトソン（Watson）を使った“バーチャル・パーソナル・アシスタント”を共同開発し、個人に合わせた情報とアドバイスを自然な会話の形で提供している。

　デザイン会社ＩＤＥＯは、２０１６年～２０１７年のプエルトリコで発生したジカ熱の流行を受けて公衆衛生組織と提携した。両者は協力してジカボット（Zikabot）という便利なチャットボットサービスを開発した。このサービスは、プエルトリコの人々がジカ熱に関する質問を匿名で行うと、正確でタイムリーな医療情報を受け取れるというものだ。ジカウィルスに関する事実のすべてを提供した場合、人々のジカ熱に対する見方と公衆衛生への影響が大きく変わることがこのサービスの試験段階で明らかになった。この組織は、公衆衛生情報配信用のチャットボットの効果的な設計と統合にとってアジャイル（機敏）な人間中心の反復型設計手法が極めて重要であるということを学んだ。

　国連児童基金（ユニセフ）は、政策形成に若者を参加させるためのプラットフォームとしてユー・リポート（U-Report）を開発した。若者はツイッターやフェイスブック上でボットとやりとりしながら提案を行い、世論調査に回答する。そして、その結果とアイディアがコミュニティーと共有される。例えばリベリアでは、成績とセックスを交換する教師の問題の広がりがボットによって明らかになったため、リベリアの教育相がユニセフの協力を得てこの問題に取り組むこととなった。

マーケティングとコミュニケーション

　クライメット・リアリティ（Climate Reality）のボットは、支援者に情報を与え、アクションアラート用メールリストを構築するよう設計されている。

　社会的サービスを提供する英国の慈善団体メンキャップ（Mencap）は、#HereIAmという一般への啓蒙活動の一環として、同団体のウェブサイトでチャットボットを使用している。これは、エアレン（Aeren）と名付けられた学習障害のチャットボットの体験を通じて、学習障害であるということがどのようなものなのかについて人々の理解を助けることを目的としている。

資金集めと寄付者の積極的な関与

　最初の非営利型ボットの一つは、２０１６年にチャリティ・ウォーター（Charity: water）によって開発されたイェシ（Yeshi）というボットである。このボットは、仮想現実とエチオピアに住む少女との“スマートな”かかわりを通じて認識を高め、寄付者の積極的な関与を促進することを意図している。多くの少女や女性たちがきれいな水を得るために６時間も歩くことについて、寄付してくれる見込みのある人たちに知ってもらうことが狙いだ。

　ポープ（Pope）というボットは、教皇との対話をシミュレーションし、寄付を募るためにバチカンが作ったフェイスブック・メッセンジャーである。ポープ・ボットは、積極的な関与を引き出すための設計だけでなく、組織のブランドと声をも具体化できるようにする上でボットがいかに重要かを示している。

内部管理とコミュニケーション

　ＡＩは、組織内の決まり切った仕事を管理して効率を上げるのに使われ始めている。例えば、グラビティ（Gravyty）という資金集めの会社が開発したファースト・ドラフト（First Draft）というシステムは、人工知能を使って見込み寄付者に関する仕事を効率化する。この中には、見込み寄付者への個人的な働きかけを行うスタッフ向けの行動プラン作成も含まれている。

　ボットは、効率性とイノベーションを妨げている内部障壁を壊すこともできる。例えば、世界９０カ国以上で多くの組織と１万人超の従業員を抱える２０の関連組織で編成された国際的な非営利組織であるオックスファム（Oxfam）は、様々な階層におけるサイロ化の問題に直面した。内部のボットと自動化ツールは、組織の部署をまたいで使われ、共通の価値観・言葉・慣行から成る組織文化を創り出した。

市民社会組織への提言

１）導入の動向を把握すること。チャットボットとはどのようなものかを理解し、最新の使用動向を把握する。

２）ソーシャルグッド、つまり社会に良いインパクトを与える目的のために開発されたチャットボットを実際に体験すること。本稿で言及されているさまざまなチャットボットにアクセスするとよい。そして、チャットボットの目的と意図されたオーディエンス、人々の関心を引き付ける方法を見極めるよう努める。

３）簡単な試作を設計すること。目的、意図するオーディエンス、コスト（オーサリングツールの中には無料のものもある）を確定する。

４）評価し、繰り返すこと。試作を数カ月間稼働させてデータを収集・評価した後、どのような改良を行うべきかを判断するため利用者を調査する。

市民社会がＡＩとボットを倫理的に使用するための提言

１）ＮＧＯボット倫理要綱（Code of Bot Ethics）を作成すること。

２）操作しないという誓約（non-manipulation pledge）をすること。ボットの使用は、寄付者と支援者にとって倫理的かつ透明である必要がある。特に、寄付者やステークホルダーが自分の対話の相手がボットであることをはっきり理解できるようにしなければならない。

３）「忘れられる権利」を認めること。組織に関与した者は誰でも、相互関係を永久に削除するよう求めることができるようにすべきである。

用語集

【アルゴリズム】ＡＩ、ニューラル・ネットワーク、その他の機械が自身で学習できるようにするための一連の規則や指示。

【人工知能（ＡＩ）】一般的に人間の知能を必要とするタスクを処理する能力のあるコンピューターの開発。

【ボット（ｂｏｔ）】ボット（「ロボット」の略）とは、インターネット上で動作する自動化されたプログラム。

【チャットボット】人間ユーザーとの対話をシミュレーションするよう設計されたチャットロボット（略してチャットボット）。

【ヒューマンマシンインターフェース（ＨＭＩ）】ＨＭＩにおけるやり取りは、基本的に、人間から機械へ、機械から人間へという２種類から成る。例えば、モーションセンサー、キーボード、音声認識インターフェースなどである。

【機械学習】データや経験を使用して、コンピューターが“学習”、予測、タスクを実行する方法を洗練すること。

【自然言語処理】人間が入力したものを機械が理解することに関連するすべての事柄。

【ロボット】ロボットとは、一つ以上のタスクを高速かつ正確に、自動的に実行するよう設計された機械。

　本稿は、戸田記念国際平和研究所の英文ウェブサイト上に引用文献も含めて掲載した政策提言No.26の要約版である。