ソーシャルメディアは民主主義を支えることも、損なうこともある – それは、どう設計されているかである

この記事は、２０２５年７月８日に「The Conversation」に初出掲載され、クリエイティブ・コモンズ・ライセンスの下で再掲載されたものです。

　ソーシャルメディア・プラットフォームが行うあらゆる設計上の選択は全て、ユーザーを特定の行動、価値観、そして感情状態へと誘導する。

　検証済みのニュースソースと陰謀論ブログを、家族のピクニック写真などと混在させ、全く異なる情報の種類を区別しないままニュースフィードに提供するのは、設計上の選択である。最も感情的で過激なコンテンツを見つけるアルゴリズムを用いて、ユーザーをオンラインにつなぎとめようとするのは、設計上の選択である。そして、鮮やかな赤色の通知を送り、次の写真や興味をそそるゴシップへの期待を人々に抱かせようとするのも、設計上の選択である。

　プラットフォームの設計は、人間の行動を操縦する静かなパイロットである。

　ソーシャルメディア・プラットフォームは、人々がニュースを得る方法、そしてコミュニケーションや行動の仕方に大きな変化をもたらしている。例えば、「エンドレス・スクロール」は、ユーザーにスクロールさせ続け、手を休めるきっかけになるページ末尾に到達させないことを狙った設計上の特徴である。

　筆者は、民主主義や社会的結束を支えるテクノロジーを研究する政治学者であり、ソーシャルメディア・プラットフォームの設計がそれらにどのような影響を与えるかを観察してきた。

　民主主義は世界的に危機に瀕しており、その一因としてテクノロジーが関与している。大手プラットフォームの多くは、コミュニティーや民主主義のためではなく、利益のために設計を最適化している。ビッグテックはますます独裁者の側に付くようになっており、プラットフォームの設計が社会を統制下に置くことを助けている。

　しかし、選択肢はある。民主主義の価値を擁護するためにオンライン・プラットフォームを設計している企業もある。

利益のための最適化

　一握りのテックビリオネアが世界の情報生態系を支配している。公的な説明責任や監視もなく、彼らはあなたのフィードにどのようなニュースを表示し、どのようなデータを収集して共有するかを決めている。

　ソーシャルメディア企業は、自分たちは人々をつなげるビジネスをしているのだと言うが、彼らが得る収益のほとんどはデータ仲介業者や広告会社として得ているものだ。プラットフォームでの滞在時間が利益を生む。オンラインで過ごす時間が長ければ長いほど、より多くの広告が表示され、より多くのデータが収集されるのだ。

　このような広告ベースのビジネスモデルは、無限のスクロール、社会的比較、感情的関与を促す設計が必要となる。プラットフォーム企業は、ユーザーの行動を反映しているに過ぎないといつも決まって主張するが、人々の注目を集めるために有害なコンテンツが促されることがあると、内部文書や内部告発者の証言が明らかにしている。

　テック企業は、広範な心理学的研究に基づいてプラットフォームを設計している。例えば、スマートフォンを振動させたり鳴らしたりするフラッシュ通知や、自分の投稿を他の人が気に入ったときのカラフルな報酬、そして、怒り、恥、喜びといった最も基本的な感情を刺激する感情的なコンテンツを押し出すアルゴリズムなどがある。

　ユーザー・エンゲージメントに最適化した設計は、心の健康と社会をむしばむ。ソーシャルメディアは、事実の正確さよりも誇大広告やスキャンダルを好み、安全性、プライバシー、ユーザーの主体性よりも大衆操作を好む。その結果、分断をあおる虚偽や欺瞞的な情報がはびこり、それが民主主義をむしばむ。

　多くのアナリストは、１０年近く前にこれらの問題を認識していた。しかし、いまや新たな脅威が存在する。一部のテック企業幹部が、テクノ独裁の新時代を進めるために政治権力の掌握を狙っているのだ。

政治権力のための最適化

　テクノ独裁とは、権威主義的な政府がテクノロジーを利用して国民を支配する政治体制である。テクノ独裁者は、偽情報とプロパガンダを拡散し、恐怖戦術を使って他者を悪者扱いし、腐敗から注意をそらそうとする。彼らは膨大なデータ、人工知能、そして監視技術を駆使して反対勢力を検閲する。

　例えば、中国はテクノロジーを利用し、公共カメラで国民を監視・監督している。WeChatやWeiboのような中国のプラットフォームは、「言論の自由」のようなセンシティブな言葉がないか、自動的に投稿やメッセージをスキャンし、ブロックまたは削除する。ロシアでは、VKのような国内プラットフォームを推進しているが、国家関連機関が厳重に監視し、一部所有し、政治的プロパガンダを促進するために使用している。

　１０年以上前、イーロン・マスクやピーター・ティール、そして現在副大統領のJ・D・バンスのようなテックビリオネアたちが、カーティス・ヤービンのような極右政治思想家に同調し始めた。彼らは、民主主義はイノベーションを妨げると主張しており、企業が支配し、監視を通して統治されるミニ国家における集中的な意思決定を好んでいた。このようなテクノ独裁思想を取り入れた彼らは、インターネットへの資金提供者・設計者という立場から、政府の再構築へと移行した。

　テクノ独裁者たちは、民主主義制度を解体する計画の一環として、ソーシャルメディア・プラットフォームを武器化している。

　XとMetaが政治的に掌握されたことは、世界の安全保障にも影響を及ぼしている。Metaでは、マーク・ザッカーバーグが右派プロパガンダに対する制限を撤廃し、ドナルド・トランプ大統領の政策課題を公然と支持した。マスクはXのアルゴリズムを変更し、ロシアのプロパガンダを含む右派のコンテンツを強調した。

民主主義のためのテクノロジー設計

　プラットフォーム設計が社会に及ぼす影響力を認識し、一部の企業は、検証された情報へのアクセスや公共的な熟議の場を損なうのではなく、支援する新たな市民参加型プラットフォームの設計に取り組んでいる。これらのプラットフォームは、ビッグテック企業が民主的な関与を促進し、テクノ独裁に対抗するために採用できる設計機能を提供している。

　２０１４年、技術者のグループが、データサイエンスを活用して公共的な熟議をホストするオープンソーステクノロジー「Pol.is（ポリス）」を創設した。Pol.isは、彼らが「コンピューテーショナル・デモクラシー（computational democracy）」と呼ぶ仕組みを用い、参加者が政策アイディアを提案し、投票することを可能にする。Pol.isの設計は、「返信」ボタンを設けないことによって個人への攻撃が起こらないようにしている。派手なニュースフィードを提供せず、人々が多様な意見を理解できるよう、賛成分野と反対分野を識別するアルゴリズムを使用している。質問形式のプロンプトでは、人々がアイディアを出すよう、また他のアイディアに対して賛否を投票するよう求められる。匿名で参加するため、人ではなく論点に意識を集中させることができる。

　台湾は、Pol.isプラットフォームを利用して、２０１４年の民主化運動における大規模な市民参加を実現した。英国政府の「Collective Intelligence Lab（集合知ラボ）」は、このプラットフォームを利用して、気候政策や医療政策に関する公共討議を促進し、新たな政策提案を生み出した。フィンランドでは、Sitraと呼ばれる公的基金が、「フィンランド、あなたはどう思う？（What do you think, Finland?）」と題する公共対話にPol.isを利用した。

　スペインのバルセロナは、２０１７年に「Decidim（デシディム）」と呼ばれる新たな参加型民主主義プラットフォームを設計した。現在ではスペイン国内と欧州各地で利用されており、市民が透明性の高いデジタルプロセスを通じて公共政策や予算について提案し、議論し、意思決定することを可能にしている。

　ノーベル平和賞を受賞したマリア・レッサは、２００３年、フィリピンでジャーナリズム、コミュニティー、テクノロジーを融合させたソーシャルネットワーク「Rappler Communities（ラップラー・コミュニティーズ）」を設立した。このプラットフォームは、人々が隣人、ジャーナリスト、市民社会団体と意見を交換し、つながるための安全な空間を提供することで、制度への信頼を回復することを目的としている。Rappler Communitiesは、一般ユーザーにデータのプライバシーとポータビリティーを提供しており、ユーザーは、写真、連絡先、メッセージなど自分の情報を、あるアプリやプラットフォームから別のものへ移行することができる。このような設計上の特徴は、主要なソーシャルメディア・プラットフォームでは提供されていない。

　公共対話を改善するためのテクノロジー設計は可能であり、戦争下の地域においてさえ機能することができる。２０２４年には、「Alliance for Middle East Peace（中東和平のための同盟）」が、和平プロセスを促進して停戦合意の要素を特定するため、AIベースのプラットフォーム「Remesh.ai（ラメッシュ.ai）」を利用してイスラエル人とパレスチナ人の共通点を見いだす試みを始めている。

　プラットフォームの設計は、ある種の目的を達成するための社会工学の一形態である。それは、人々の行動、思考、相互作用を、しばしば目に見えないかたちで形成するからだ。民主主義を支えるための優れたプラットフォームをさらに設計することは、テックプラットフォームによって公共の統制が強まる世界的な独裁政治の波に対抗する解毒剤となり得るといえよう。