オンライン上のヘイトスピーチと危険なスピーチに対抗する：
戦略と配慮事項

　本稿（Rachel Brown・Laura Livingston著）は戸田記念国際平和研究所の政策提言No.34「オンライン上のヘイトスピーチと危険なスピーチに対抗する：戦略と配慮事項（Counteracting Hate and Dangerous Speech Online: Strategies and Considerations）」（２０１９年３月）に基づくものである。

　この政策提言は、読者が各自の状況下でオンライン上のヘイトスピーチや危険なスピーチに対応する独自の戦略を立てられるようにするためのものである。

　本提言では、危険なスピーチ、すなわち「そのオーディエンスが他の集団の構成員に対する暴力を容認したり暴力を振るったりするリスクを高める恐れのある表現（スピーチ、文章、画像など）」を取り上げ、特に「ヘイトスピーチ」として知られるコミュニケーションに着目する。

　攻撃手段としてのコミュニケーション（Weaponised communication）は、どのような性質のものであれ、人々を分断や暴力、ジェノサイドにまで駆り立てる強力なツールである。この種の攻撃手段としてのコミュニケーションには歴史や場所を超えた明確なパターンが見られる。すなわち、本来善良で正義感があり、被害を受けやすい「自分たち」が、危険で罪深く、普通の人間より劣る「他者」もしくは「彼ら」に対抗するというパターンである。この種のコミュニケーションが存在するところでは、しばしば自己防衛、報復、保護を口実にして、暴力に参加するか少なくとも暴力を容認すべきだという強力な規範圧力が生じる。個人がヘイトスピーチに晒されると、この種の言葉による攻撃に対する感度が鈍くなり、スピーチの中で標的とされた人々に対する偏見が増すことが、最近の研究から明らかになっている。

ソーシャルメディアは他のメディアと何が違うのか

　ソーシャルメディアは、新たなコミュニケーションプラットフォームとして、必然的に、情報の拡散方法や共感する相手といった点で、既存のコミュニケーション体系に影響を与えている。ソーシャルメディアによって従来のメディアゲートキーパーが排除され、コンテンツ制作に一般市民が参加するようになったため、情報をより広範囲に、より速く届けることができるようになった。ソーシャルメディアには平和を希求する声を増幅させる力があり、プラットフォームの利用者は、ソーシャルメディアがなければ地理的な制約により排除されていたはずの新たなコミュニティーを見つけられるようになった。その一方で、一部の人々はこうしたソーシャルメディアの特徴を憎悪に満ちたナラティブ（言説）に適用して、傍流の意見を増幅し、憎悪に満ちたナラティブを支援するコンテンツや同じ考えを持つ人々に賛同者がアクセスできるようにし、新たな規範的環境を作り出している。

　アルゴリズムがこの問題を大きくしている。プラットフォームのアルゴリズムでは、利用者のエンゲージメント（訳者注＝関心を引きつける）を最も長期的かつ広範に獲得するコンテンツが優先される（こうしたコンテンツには恐れ、怒り、嫌悪のような原始的な否定的感情に訴えるものが多い）ため、恐れと分裂を助長することになりかねない。ボットおよびその他の自動化されたアカウントは、意見の対立を招くコンテンツをさらに促進するようプログラムされている。

　利用者は、オンライン上の危険なスピーチに対処するにあたり、メッセージを伝えたい相手や、介入方法を開発するための主要な戦略や配慮事項など、より幅広いコンテクストに沿ってソーシャルメディアの特徴を理解しなければならない。

行動について情報を伝える場合は状況を分析する

　オンライン上の情報の流れは世間から隔絶して存在しているわけではない。オンラインコンテンツは、所与の状況に深く根差した顕著なナラティブ、不満、対立を取り込み、強化し、過熱させる。オフラインの情報源やメッセンジャーも、地元の指導者や情報発信者であれ、影響力を持つ他のコミュニティ構成員であれ、オンライン上の情報の流れに影響を与えている。さらに、コンテンツがさまざまなオフラインメディアとオンラインメディアの境界を飛び越える場合もある。例えば、オフラインの噂がFacebookの投稿で共有され、その後ツイートされたりYouTubeの映像の中で紹介されたりすることがある。

　憎悪に満ちたコンテンツが特に影響力を持つのは、それが長い歴史やナラティブに基づいており、かつ信頼された情報源を通して拡散された場合である。例えば、二つの集団間で長年対立が続いていることがコンテンツで紹介され、地域社会で信頼されている人物、例えば宗教指導者や地元の有力者らによって拡散された場合、コンテンツの影響力が特に高まる可能性がある。

　オンライン上のヘイトスピーチに介入しようとする場合には、人々がコンテンツを信頼し、拡散させる過程で働く人間心理の影響、そしてさまざまなオフラインメディアやオンラインメディア間の相互作用を考慮する必要がある。

オーディエンスを選択し、目標を設定する

　オンライン上のヘイトスピーチへの対応戦略を策定する際は、対象のオーディエンスを明確にする。この場合、働きかける対象として数種類のオーディエンス集団が想定される。オンライン上のヘイトスピーチには不賛同だが積極的に反対意見を述べていない人々に対しては、活動を促すとよい。また、積極的に反対している人々を支援するのもよいだろう。別の方法として、ヘイトスピーチを拡散したりそれに関与したりしている人々を対象にして、ヘイトスピーチの広がりや到達範囲を狭めることができる。関与をやめた人々や中立的な人々に接触して、オンライン上のヘイトスピーチに反対し、何らかの行動を取るよう働きかけることもできるだろう。

　どのようなオーディエンスであろうと、その人たちについてできるだけ多くのことを学ぶことが重要である。そのオーディエンスはどこでどのように情報にアクセスするのか、誰を信頼し、誰に指図を求めるのかを考慮する必要がある。また、伝えようとするメッセージが、対象のオーディエンスの物事に対する態度、すなわち、そのオーディエンスが持っている信念、価値観、社会ネットワーク、そして関連する感情と経験とどう噛み合うかについても考慮すべきである。

有望な戦略を検討する

　人々が持っている信念に異議を唱えようとする場合は、注意する必要がある。討論や論争は直感的なものだが、しばしば逆効果をもたらし、相手を自分自身の見方にしがみつかせることになる。動機付けられた推論により、人は、自分の信念に異議を唱える情報を拒絶する一方で、自分の信念を裏付ける情報を探し出して受け入れることが多い。

　それよりも、問題に対する自分の姿勢を変えた人たちの事例を共有することを検討した方がよい。ある集団を対象とする誤った情報の特定の内容について、それに代わる説明をするのもよい。オーディエンスの面目を失わせることは逆効果になる可能性があるため、避けるべきである。

　ヘイトスピーチに異議を申し立てる際に鍵となるのは信頼性と信頼関係である。必ずオーディエンスが信用している個人や情報筋に由来するメッセージを送り、徐々にオーディエンスとの信頼関係を構築するよう努める。さらに、ヘイトスピーチや危険なスピーチに使用されている誤った情報や虚偽情報に異議を申し立てる場合は、反論する対象のコンテンツを不注意に拡散させないよう、正確な情報を提供するポジティブフレーミングのようなベストプラクティスを使用すべきである。

正の規範と行動の機会を醸成する

　仲間の信念や行動をどう認識するかが私たちの行動に強い影響を与える。たとえそうした行動が個人としての信念に反するものだったとしても。オンライン上のヘイトスピーチでは、ある集団に対する憎悪・偏見が当然のこと、あり得るものとして描かれる可能性があるが、オンラインコミュニティの一員として、私たちは同じようなコンテンツを共有しなければならない。前向きな声を活性化し高めることにより、自分のコンテクストの中でヘイトスピーチの力を弱めることができる。

　前向きな行動を推進するには、憎悪や差別を普通のこと、起こり得ること、どこにでもあることとして表現するのを避けなればならない。否定的な行為や行動を認識した場合は、ほとんどの人はこのような行動やスピーチを支持していないということも示す。むしろ、前向きな行動とスピーチを導く役割モデル、データ、ストーリーに言及することによって、正の社会規範を醸成しなければならない。

　行動したいと思っていても、どう行動すればよいか分からない人々がいるかもしれない。そこで、エンゲージメントの段階的な道筋を説明すること、人々がより積極的に関与するようになるための漸進的なステップを具体的に示すことが必要である。また、人々が安全を感じられる集団の中で行動できるように、オンライングループやコミュニティを作るとよい。

統一された横断的なアイデンティティーを維持・創出・強化する

　伝統的な違いを超えて人々の心を一つにするよう努める必要がある。例を挙げると、スポーツチームを利用して宗教上の違いを超えてファンの心を一つにしたり、宗教アイデンティティーによって民族の違いを超えて人々の心を一つにしたりすることである。そのための手段として、例えばハッシュタグの使用や、集団、統一ブランドの創出などが考えられる。

対象集団のナラティブに対抗する

　対象（にされる）集団の否定的なステレオタイプに対して、より肯定的な表現や微妙な表現を用いてどのように対抗するかを検討する必要がある。

　対象集団の能力を人間らしくかつ温かさもある存在として描くことで、人間性をはく奪されたステレオタイプに対抗する必要がある。人間性のはく奪とは、ある集団に所属する個人が、人間特有の二次感情（郷愁、希望、失望など）や十分な認知能力を持っていない、または進化・文明化されていないという理由で、十分な人間性を備えていないとする考えである。人間性をはく奪された集団は、能力が低く、人間としての温かみ（人間らしい感情、思いやり、前向きな意思など）が乏しい存在としてステレオタイプ化されることが多い。

　また、「彼ら」が「自分たち」をどう見るかに関する否定的な認識に対抗することも重要である。他の集団が自分たちを非人間化すると信じてしまうと、今度は自分たちがその集団を非人間化することにつながる。この「メタ非人間化」に対抗するコンテンツを提供することが必要である。具体的な方法として、集団間の友情の物語や引用、それに複数の集団が互いに人間性を発揮していることを示す行動を伝えることなどがある。

　対象集団への共感を生み出そうとすることは直感的であることが多い。その場合、対象集団を何気なく犠牲者または主体性を欠いたものとして表現することがないよう注意しなければならない。代わりに、希望、失望、不安といったより複雑な人間感情に焦点を当てることで、対象集団が人間らしくあれるようにすべきである。より効果的に共感を醸成し、人々が共感に基づいて行動するよう、それを可能にする役割モデルや規範設定者のストーリーを共有する必要がある。ストーリーには特に説得力がある。

会話の内容を変える

　会話の内容を変えることによって、対象集団に焦点を当てることから具体的な問題やその背景にある不満への対応に移行し、内容を再構成する事ができる。

メッセンジャーが重要！

　特に意見が大きく分かれている状況では、問題に関係しており、信頼でき、かつ影響力のあるメッセージの伝達者を選ぶことで、オーディエンスがコンテンツに強く引きつけられる可能性が高まる。架空の人物や意外なスピーカーを採用すると、特に影響力が大きいかもしれない。

影響力のある媒体を利用する戦略を立てる

　オンラインやオフラインの媒体を超えて積極的な行動を統合し促す介入方法を構築する必要がある。可能な場合には、人々に新しい媒体を利用してもらうよりも、すでに利用している媒体で人々を呼び込むとよい。どうすればエコーチェンバーに入り込み、その集団の構成員に新しい情報を紹介することができるかを検討する必要がある。

常にリスクを検討する

　常に戦略にリスクがないか検討する。例えば、対抗しようとするコンテンツが戦略によって拡大する恐れはないか、あるいは戦略によって個人や組織に物理的リスクや評判リスクが生じる恐れはないかなどを常に検討する必要がある。

　本稿は、戸田記念国際平和研究所の英文ウェブサイト上に引用文献も含めて掲載した政策提言No.34の要約である。