人工知能戦争

Photo credit: Christiaan Colen/Flickr 

　２１世紀３番目の十年紀は、消耗をもたらすパンデミックに祟られたスタートを切った。２０２０～２１年の世界経済における損害は１０兆ドルにのぼる。今は、軍事力をひけらかしたり、破綻した戦略を売り込んだりする時ではない。米国が先陣を切って推進している人類の共通利益のためのＡＩ活用を目指す、真に画期的な２１世紀の青写真は整っている。

　人工知能国家安全保障委員会（ＮＳＣＡＩ）は、報告書を発行したが、変革的な道筋を描くチャンスを逃し、代わりに自身のプラットフォームを用いて時代遅れな筋立てを大々的に発表した。世界の軍事費ならびに軍事用知力は、世界の平和と安全保障を強化する協力の構造や枠組みをさらに構築するために用いられるべきである。しかし、ＮＳＣＡＩは、冷戦時代に採用され破綻した、おそろしく費用がかかる戦略の焼き直しを描いて見せた。

　ＮＳＣＡＩは、「われわれはＡＩ競争を受け入れるべき」であり、「ワクチン開発のように人類に利益をもたらす快挙を目指してＡＩ競争が行われる場合、われわれはパートナーと切磋琢磨するべき」だと提言し、「ＡＩは世界を再編する。米国は努力の先頭に立つべきだ」と述べる一方で、ＡＩ軍拡競争につながりかねない提言も行っている。過去において、競争や敵との闘争という考え方は人類の役に立たなかった。冷戦時代、この考え方に基づいて非常に高コストで使用不可能な７万発の核兵器が蓄積された。そのほとんどは後に解体・廃棄され、現在国際社会には１３，４１０発の弾頭が残されている。

　コロナ禍後の世界で再び軍拡競争、つまりＡＩ軍拡競争を行うことは、正当性がなく、無益なことに思える。新しい武器システムの開発を絶えず追求することは、人類の安全保障に役立たない。むしろ、次なるパンデミックや一連の気候危機による災害を防ぐための投資や関心が減じられることになる。経済平和研究所の「生態系への脅威登録」によれば、１９９０年以降、米国はどの国よりも多くの気候被害を受けており、山火事、干ばつ、極端な気温、嵐、洪水が７０４件発生し、１００万人近くが避難を余儀なくされた。このデータは、米国が気候変動に最も脆弱な国の一つであることを示している。気候危機に向き合うことは急務であり、費用がかかる。誰の安全保障にもならない途方もなく無益な軍拡競争に再び乗り出すのではなく、気候変動の最悪の影響を予防し、緩和するために投資を行うべきである。

　ＡＩ軍拡競争を回避するために、米国の新大統領でありグローバルな視点を持つジョー・バイデンは、世界を代表して革新的な取り組みを行い、戦時における人間の判断を放棄して機械に委ねることがないようにするべきである。そのために、バイデンは科学界の助言に耳を傾けることができる。２０１５年に発表され、約４，５００人のＡＩ／ロボット工学研究者と２６，０００人以上の個人が署名した「ＡＩおよびロボット工学研究者からの公開書簡（Open Letter from AI & Robotics Researchers）」において、研究者らは自分たちがＡＩ兵器の開発に関心を持っておらず、それは化学者と生物学者のほとんどが化学兵器や生物兵器の製造に関心を持たないのと同様であると述べている。ＮＳＣＡＩの提言と対照的に、科学者たちは、「要約すれば、われわれは、ＡＩが多くの形で人類に利益をもたらす膨大な可能性を持っており、その実現をこの分野の目標とするべきだと考えている。ＡＩ兵器の開発競争を始めるのは間違ったアイディアであり、人間が実効的にコントロールできない自律型攻撃兵器を禁止することによって防ぐべきである」と主張した。

　その後、科学者たちは別の書簡も発表した。これは誓約の形を取り、その中で彼らは繰り返し、人命を奪う決定を決して機械に委ねるべきではないと訴えている。彼らは、倫理と実利の両方の立場を説明している。機械が人命を奪った場合、機械を罪に問うことはできない。そこで実際問題として、ＡＩ軍拡競争は国際安全保障を不安定化させ、その過程で迫害の強力な手段になると考えられる。したがって、そのような軍拡競争に烙印を押して阻止することは全ての国の利益になると、科学者たちは示唆している。これまでに２４７団体と３，２５３人が署名した誓約書は、自律型兵器に対抗する確固とした規範と規制手段の確立を求めている。

　世界のほとんどの国は、戦争におけるＡＩ利用を規制する新たな統制体制をもたらす国際規則を実現する意図がある。アントニオ・グテーレス国連事務総長は、「人間の関与なしに標的を選定して命を奪う能力と裁量を備えた自律型機械は、政治的に受け入れられず、道徳的に嫌悪感を引き起こすものであり、国際法により禁止されるべきである」と考えている。国連が持つ最も強力な能力は、国際法の規則のもとで法の支配を尊重する枠組みを構築し続けることである。それは１９４５年に始まり、世界の歴史上最も長期にわたる平和を導き、第三次世界大戦を防いできたのである。今は、そのような世界規模の対立につながる道を作り出す時ではない。