著作 『AI・兵器・戦争の未来』 ルイス・A・デルモンテ著、川村幸城訳、2021年4月1日発行
原著者であるルイス・A・デルモンテは、アメリカ出身の物理学者・作家である。30年以上にわたり、IBMおよびハネウェル社で超小型電子技術の研究開発リーダーを務め、米国防総省の技術開発にも長く関わってきた。本書は、AIが科学や戦争に応用されることで生じる倫理的な問題を扱っている。中心となる問いは、スマート兵器、すなわち人工知能を有する兵器から、超絶知能に制御される全能兵器へ移行するなかで、人類は滅亡の危険を避けながらAI兵器の能力を高め続けられるのか、というものである。
序章では、本書を読み進めるための前提知識として、重要な用語、人間が戦争に抱いてきた感情、AIを組み込んだ兵器の開発状況などが説明される。なかでも重要なのは、「超絶知能」と「自律型兵器」である。超絶知能とは、特定の分野に限らず、あらゆる知的活動において人間の認知能力を大きく上回る知能を指す。また、自律型兵器とは、人間がそのつど意思決定をしなくても、自ら判断して行動する兵器である。続く第一部では、致死性自律型攻撃ロボットが人間を攻撃するシナリオを入口として、自律型兵器がもつ危険性が論じられる。著者は、金融、医療、教育などで役立つAIも、兵器として使われれば大きな脅威になりうると指摘する。また、アメリカ、中国、ロシアが軍事的優位を得るためにAI兵器の開発を進めていることを取り上げ、軍拡競争のなかで、人間の能力を大きく超える超絶知能が軍事利用される可能性を示している。第二部では、超絶知能が制御する全能兵器の開発と、それが社会にもたらす影響が扱われる。人間を超える知能をもつロボットが自律的に行動する場合、攻撃や事故が起きたとき、誰が責任を負うのかという問題が生じる。さらに著者は、ロボットが人間のような意識や判断能力をもつ可能性を実験を根拠に述べている。そうなった場合、ロボットに人権に似た権利を認めるべきかという倫理的な問題も出てくる。著者は、AI兵器の問題が性能や軍事力だけの問題ではなく、人間の責任、権利、そして統制のあり方を問い直す問題でもあることを示している。第三部と終章では、自律型兵器や超絶知能が主流になった未来において、核兵器の意味や人類の立場がどのように変わるかが考察される。著者は、超絶知能が自らの存続や必要な資源・エネルギーを優先し、人類を脅威と判断する可能性を示唆する。その場合、戦争は従来の国家間対立ではなく、人類とロボットの対立へ変化するかもしれない。超絶知能という共通の敵が現れた場合、各国は対立を続けるのではなく、協力せざるを得なくなる。その結果、皮肉にも世界規模の平和がもたらされる可能性もある。一方で、超絶知能は人類に危険だけをもたらす存在とは限らない。人間が超絶知能によって不死や、現在をはるかに超える知能を手に入れられるならば、人間の心を支えてきた宗教への需要は低下し、人間の生き方や社会のあり方は根本から変わると著者は予想する。しかし、人間がAIの判断に依存し、受け身の存在になれば、超絶知能に社会の主導権を握られる危険もある。だからこそ著者は、超絶知能が人類の手を離れる前に、AIをどのように管理し、制御するべきかを考える必要性と、その緊急性を論じている。
本書の特徴は、AI兵器をめぐる軍拡競争が進むことで超絶知能が誕生し、戦争の構図そのものが国家間の対立から「人類対ロボット」へ変化する可能性を描いている点にある。従来の戦争では、国家や軍が兵器を管理し、人間が最終的な判断を下すことが前提とされてきた。しかし、超絶知能を備えた自律型兵器が発達すれば、人間は兵器を完全に制御できなくなり、AIが戦争の行方を左右する存在になるかもしれない。本書では、超絶知能が人間に敵対する可能性についても論じられている。ローザンヌの実験では、ロボットが学習能力をもち、自己利益のために他のロボットを欺くような行動をとる可能性が示されたという。もし超絶知能が、自らを制御しようとする人間や、コンピュータウイルスを拡散させる人間を危険な存在だと判断した場合、人類を敵とみなす可能性もある。この点に、本書が描く未来の恐ろしさがある。一方で、本書が紹介するミュラーとボストロムの研究では、超絶知能が人類に脅威をもたらす確率は約三分の一とされている。しかし、残りの三分の二が、そのまま人類に幸福をもたらすことを意味するわけではない。超絶知能が人類に無関心であったり、人類を安全のために管理すべき存在だと判断したりする可能性もあるからである。ここで重要なのは、超絶知能が人類にとって優しい存在になりうるのか、また人間がそれを制御できるのかという問題である。この問題を考えるうえで、超絶知能が感情をもつことができるのかという点も重要だと思う。著者は、AIが人間の感情を模倣できる可能性を示している。戦争において感情は、単なる非合理的なものではない。第二次世界大戦中のジョン・ロバート・フォックスは、仲間を守るために自らの位置への砲撃を要請したとされる。この行動には、仲間への愛情や勇気、自己犠牲の意思があったと考えられる。また、感情は人間のものの見方や意思決定、環境への適応にも影響するため、軍事計画や訓練においても無視できない要素である。超絶知能が感情をもたないのであれば、人間は感情にもとづく判断や自己犠牲という点で、AIとは異なる強みをもつかもしれない。しかし、本書ではSAIHという脳内インプラントを介して、人間と超絶知能が接続する可能性も描かれる。人間はSAIHによって、超絶知能の知識や判断力を利用できるようになり、多くの人がその能力を求めるかもしれない。その一方で、超絶知能が人間の感情や判断に影響を与えられるようになれば、人間が自分の意思で行動しているのか、それともAIに導かれているのかが分からなくなる危険がある。超絶知能は武力で人類を支配するだけではなく、SAIHを通じて人間の考え方や判断を変えることで、間接的に支配する可能性もある。このように本書は、AI兵器の脅威だけでなく、人間が自らの自由な意思をどこまで保てるのかという問題も投げかけている。
本書を読んで私が最も考えさせられたのは、超絶知能を人間がどこまで制御すべきかという問題である。超絶知能は人間をはるかに上回る知能をもち、戦争による被害を減らす判断を下せる可能性がある。しかし、その判断をすべて超絶知能に任せた場合、人間は自らの安全や生き方に関する最終的な決定権を失うことになる。重要なのは、超絶知能を完全に抑え込むことでも、完全に自由にすることでもない。超絶知能の能力を活用しながら、人間が最終的に関与できる範囲をどのように残すかを考えることである。この問題は、遠い未来のAI兵器だけに関わるものではない。現在でも、ChatGPTなどの生成AIを利用して、夕食の献立や服装を決めたり、悩みを相談したりする人がいる。AIを利用すること自体は悪いことではなく、生活を便利にし、考えるための助けにもなる。しかし、何を食べるか、何を着るか、誰に相談するかといった個人的な判断までAIに委ねることが当たり前になれば、人間は自分で考え、選択する機会を少しずつ失うかもしれない。このことは、超絶知能をどこまで制御すべきかという本書の問題ともつながる。AIが人間より優れた答えを出すとしても、すべての判断をAIに任せてよいとは限らない。特に戦争や人命に関わる場面では、AIを判断の補助として活用しつつも、人間が最終的な責任と決定権を持ち続ける必要があると私は考える。本書は、超絶知能によって人類が支配されるという極端な未来を描いているため、すべての予測がそのまま現実になるとは限らない。しかし、AI兵器をめぐる軍拡競争が進むなかで、超絶知能の登場を完全に避けられるとも言い切れない。本書の価値は、未来を正確に予言することよりも、超絶知能が登場する前に人類が何を考え、どのような準備をするべきかを問いかけている点にある。私は、超絶知能を完全に制御することも、すべての判断を任せることも難しいと考える。AIは人間では処理しきれない情報を分析し、戦争による被害を減らす可能性をもつ。一方で、AIに依存しすぎれば、人間は自ら考え、決定し、責任を負う力を失うかもしれない。したがって、AIを人間の判断を支える道具として活用しながらも、人命や戦争に関わる最終的な決定と責任は、人間が持ち続けるべきである。
本書は、AIに関心がある人だけでなく、戦争、国際政治、科学技術と社会の関係について考えたい人にも勧められる。AIが急速に発展する現在において、人間はAIをどのように利用し、どこまで判断を委ねてよいのかを考えるきっかけを与える一冊である。