自律型兵器システムの規制

Image: Shutterstock

　近年、アルゴリズム技術の進歩とともに、完全自律型兵器システムの国際的な法規制が、国際安全保障上および人道上の課題として浮上している。しかし、そのような兵器システムの全面禁止を求めることは、時期尚早でもあり、失敗が運命づけられてもいる。時期尚早である理由は、自律型兵器システムが、特に武力紛争下において民間人の命を守るものになるかどうか、私たちはまだ正確に知りえないからである。そして、失敗が運命づけられている理由は、軍事大国のほとんどが、表向きは時折否定して見せるものの、自律型兵器の配備を目指してすでに躍起になっているからである。

　アクションとリアクションの自動性を組み込んだ兵器システムは、ずっと前から存在していた。しかし、留まるところを知らない高度化、機械による意思決定の驚くべきスピードは、近い将来、自律型兵器システムが戦争の手段としても法執行の現場においても、当たり前のものになることを意味している。よく混同されるが、ドローンは人間が航空機（または他の移動体）を遠隔操作し、いつ誰を攻撃するかは人間が決めるが、自律型兵器システムは、それとは異なり、人間の指示を受けることなく人や物を標的にしたり、攻撃したりする能力を備えている。

　致死性または低致死性の武力を行使する能力をコンピューターアルゴリズムに委ねることについては、当然ながら懸念が生じている。しかし、起こりうる結果に対する人道上、技術上、安全保障上、倫理上、法律上の懸念が広がっているにもかかわらず、ヒューマン・ライツ・ウォッチが２０２０年の記事「Stopping Killer Robots: Country Positions on Banning Fully Autonomous Weapons and Retaining Human Control（キラーロボットの禁止に向けて： 完全自律型兵器の禁止と人間の制御の維持に関するカントリー・ポジション）」で述べたように、中国、イスラエル、ロシア、韓国、英国、そして米国はすでに、多様な自律型兵器システムの開発に重点的な投資を行っている。オーストラリア、トルコ、その他の国々も投資を行っている。事実、２０２１年３月、国連安全保障理事会のリビアに関する専門家パネルは、トルコ製の徘徊型兵器で「カミカゼドローン」であるSTM社の「カルグ（Kargu）」が、２０２０年にリビア国内でハリファ・ハフタル元帥率いる軍を自律的に探知し、攻撃したと報告した。マイケル・クレアの「自律性の軍拡競争」はすでに進行中のようである。

　ヒューマン・ライツ・ウォッチをはじめとする「キラーロボット反対キャンペーン」参加団体は全面禁止を求め、多くの政府がそれを支持しているが、彼らの努力によっても完全自律型兵器システムの配備を阻止することは出来ないかもしれない。たとえ少数でも軍事大国がそれらの兵器を開発し、配備すれば、他の国々もそれに続こうとする可能性が大きい。

　同キャンペーンは、「特定通常兵器使用禁止制限条約」（CCW）に、この問題に特化した議定書を追加する交渉を進めてきた。CCWは加盟国が１２５カ国にのぼり、特に対人地雷、焼夷弾、失明をもたらすレーザー兵器などを禁止する附属議定書がある。しかし、強力で新たな軍事技術を違法化することは、武器製造・輸出大国が支配し、満場一致の伝統が根付いている（必ずしも法的ルールでなくとも）議論の場においては、常に受け入れ困難な提案であった。結局のところ、CCWの下で包括的に禁止された兵器は、失明をもたらすレーザー兵器のみである。同兵器に関する議定書IVは、ヒューマン・ライツ・ウォッチと赤十字国際委員会（ICRC）によるキャンペーンが成果を収め、先制的に１９９５年に採択されたのである。それ以降、いかなる兵器の全面禁止についてもCCW加盟国内の合意が形成されたことはない。たとえ合意が形成されたとしても、CCWは戦争手段に対して適用されるものであり、それに応じた法執行には適用されない。

　また、世界各国の法律家の間では、全面禁止が必要なのか、あるいは望ましいのかに関するコンセンサスがいまだ形成されていない。１９７カ国中１７３カ国が締約国となっている１９６６年の「市民的及び政治的権利に関する国際規約」の遵守状況を監視する国連人権委員会は、一般的意見第３６号において、「人間的な共感と判断力を欠く自律型兵器システムの開発は、その行使に対する法的責任に関する問題を含め、生存権に関する困難な法的・倫理的問題を引き起こす」と述べている。委員会は、そのようなシステムを違法と宣告はしなかったものの、締約国に対し、それらが国際人道法（IHL）および生存権と両立可能であることが確認されるまでは配備を行わないよう求めた。

　ここにはジレンマがある。IHLは自律型兵器システムを規制するものではまったくない（そしておそらく、マルテンス条項の人道原則と良心の呵責がその禁止を求める）と主張されるべきだろうか？ あるいは、むしろ、IHLはすでにそのようなシステムを規制しており、それらを違法としているのだろうか？ どちらも、持続しにくい微妙な主張であり、一般の支持は得られていない。２０２１年５月、ICRCは組織としての見解を説明し、「人に対して武力を適用するために設計され、または使用」される状況においては、自律型兵器システムの禁止を課すことによって、人間を標的にした自律型兵器システムの行使を「排除」するよう呼びかけた。人が中にいる（または付近にいる）物体に対して行使される状況については、標的の種類、持続時間、地理的範囲、行使の規模に関する制限を設けるとともに、「人間による効果的な監督や適時の介入と作動停止を徹底する」ため、人間と機械の相互作用の要件を組み合わせることを提案している。

　では、仮に、といってもあくまでも仮の話にすぎないが、機械が生命・身体をより尊重し、さらに用心深く、極めて正確に武力を行使することが可能であると証明されたならば、どうだろうか？ 生殺与奪の権をコンピューターが処理することへの倫理的懸念は、人道的責務に優先されるだろうか？多くの人にとって、答えは断固「イエス」であろう。２０１８年にCCW締約国に提出した報告書において、ICRCは、致死的な意志決定の主体として人間が介在しないことにより、人間の尊厳が失われると指摘した。それに対する反論は、当然ながら、人道原則を尊重するのであれば、主体が何者であるかということより、人命の保護を優先するべきだというものである。結局のところ、戦争においては人間の他者の命に対する敬意など、常に哀れなほど示されないのだ。コンピューターアルゴリズムなら恐れを知らず、毒々しい憎悪も復讐願望も持たず、異なる人々への軽蔑も感じない。自律的な武力行使がますます拡大する未来は、本質的に、そして必然的にディストピア的未来なのだろうか？ 実のところ、われわれはまだ答えを知らない。