軍事における人と機械（自動化）の合流は如何になるのか

近年の人工知能に関する巷の関心はますます高まるばかりである。日本語の記事を見ているとあまり話題にもならないが軍事の世界では、例えばお隣の中国では人工知能を軍事の世界に持ち込もうと躍起になっていることが中国の公開情報からも承知できるほどである。

最近、翻訳出版されたのユヴァル・ノア・ハラリ著の「ホモ・デウス：テクノロジーとサピエンスの未来」では、サピエンスのヒストリーから眺めた時に、科学・技術の進展がサピエンスをデウスの領域に到達するのかという興味深いテーマを中心に書かれたものである。残念なことに、ユヴァル・ノア・ハラリ氏のこの原著は２０１５年の出版であるから、３年遅れの議論となってしまうが、それでも軍事の世界の未来像に関心のあるものにとっては、欠かせない書籍に一つになるだろう。

豪州陸軍にMick Raynという豪州陸軍中将がいる。現在、豪州国防大学の学長を務めているが、ユヴァル・ノア・ハラリ著の「ホモ・デウス」を引用しながら、人工知能を代表した科学・技術の進展を見据えた時の軍事組織体における人と機械の関係についての課題について述べた記事を3回に分けて「The Strategy Bridge」に寄稿している。

以下、この投稿記事のうち第1回目(2017/12/11)のものを紹介する。ちなみにこの投稿記事に対する期待は、以下のように記載されている。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

このエッセーは、THE STRATEGY BRIGE の#WarBotsシリーズの一部であり、学者と国家安全保障の専門家のグループに、自動化と無人技術の合流点と戦争の遂行への影響についての彼らの考えを提供するよう依頼したものである。我々はこれがいつか政策になるかもしれない議論の始まりになることを期待している。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

未来を創る：一体化された人間と機械の軍事組織

ミック・ライアン

「21世紀初頭に、進化の列車が再び駅から引き出されて、これはおそらくホモ・サピエンスという駅から出る最後の列車になるでしょう。この電車に乗り遅れた人は二度目のチャンスを得ることはありません。それに座席を確保するためには、21世紀のテクノロジー、特にバイオテクノロジーとコンピューターアルゴリズムの力を理解する必要があります。・・・残されているものは、絶滅に直面するでしょう」

ユヴァル・ノア・ハラリ

ユヴァル・ノア・ハラリの著書「ホモ・デウス」出てくる言葉は最近の研究を反映したものであり、そこでは「軍事はロボットの時代に入ったことで大きな技術革新の先端にある。そこでの戦いは、無人でますます自律的な武器システムによって遂行され、全てのドメインにわたり、そして軍事作戦のすべてのスペクトラムにわたって作戦が行われる。問題は、戦いの未来が自律的で人工知能が動かすロボットで満たされるのかどうかということではなく、いつどのような形で起こるのかということである」将来の戦うであろう戦争の方法にこの変化を実現させる鍵は、ヒューマン・マシン・チーム化である。

この種の技術の障壁は低くなり続けている。このことは小規模な軍に有利に働く。しかし、それはまた、この技術が非国家主体および発展途上国の主体にまで増殖する可能性が高まるということである。大量破壊兵器に関連する在来型の技術や核、そして、その他の技術と比較すると、人工知能、ロボット工学は、安価で、比較的広範に手に入れることができるようになる。この入手の容易性は、コンピュータ性能の急速な成長、広範な商用投資によるロボットシステムの価格低下、および機械学習の継続的な進歩によって推進されている。

ヒューマン・マシン・チームは、戦場を越えて、そして軍事組織のエンタープライズという言葉で呼ばれるものを通して適用されるであろう。このエンタープライズ・アプローチの理解は、ヒューマン・マシン・チームの機会が、現在想像することのできる無数の戦場での役割に応用できるようになることはもちろんのこと、制度上の戦略策定、人材の募集と訓練、調達と戦略的兵站の遂行で活用されることが出来ることを確かなものにする。

この記事は、ヒューマン・マシン・チーム化の重要な側面について検討した3つのうちの最初のものである。この記事では、7つの命題によってヒューマン・マシン・チーム化の論理的根拠について検討している。2番目の記事では、人間と機械の密接な一体化を軍事組織が採用するかもしれない3つの重要な分野について検討している。最後の3番目の記事では、ヒューマン・マシン・チーム化で見出される根本的な課題について検討する。これらの戦略的、制度的、戦術的なレベルの課題は、このようなアプローチを通じて優位性を生み出すことが期待される軍事組織によって取り組まなければならない。

重要なことは、これらの記事は、”人間と機械の密接な一体化が戦争の本質に根本的な変化をもたらす”とは提案していない。戦争は、政治的次元、人間の次元、意志の抗争の文脈で見いだされる不確実性の存在など、いくつかの連続性をもって、その永続的な性質を保持する。これらの記事は、クラウゼウィッツの戦争についての考察の別の側面、すなわちその変化する戦争の性格に焦点を当てている。

「戦争論」を通じて、クラウゼウィッツは戦争の性格の理解の過ちは大惨事につながることを強調している。1806年のプロイセンの敗北についての議論では、彼はフレデリック大王の斜行戦術を、新しいタイプの戦い(a new type of warfare)を遂行するナポレオンのような敵に対して誤って適用したプロイセン将軍を厳しく非難している。同様に、ヒューマン・マシン・チームの一体化は、そのような戦争の性格の変化を表すものである。

この記事では、”なぜ、このような変化が起きるのか”、そして”なぜ、それが軍事の制度にとって魅力的であるのか”を明らかにする。また、一体化された人間と機械の部隊への移行を必要とする人員、装備、訓練、教育、ドクトリン維持、インフラの問題について、より詳細な分析を行うための軍事組織の基盤を提供することを目指している。

避けられない事態：戦場と戦場を超えた人間と機械のチーム化

トヨタ研究所の元DARPAプログラムマネージャーおよびCEOであるGill Prattは、技術的および経済的傾向は、新しいロボット機能のカンブリア爆発をもたらすことに収斂していると主張している。コンピューティング、データストレージ、通信などのロボットの基礎技術の多くは、指数関数的速度で進展している。二つの更なる技術である、クラウド・ロボット工学とディープ・ラーニングは、Prattが爆発的な成長の好循環と述べたこれらの初期の技術の上に構築されるようになる。クラウド・ロボット工学は、各ロボットがすべてのロボットの経験から学ぶことを可能にし、ロボット能力の非常に速い成長をもたらす。ディープ・ラーニング・アルゴリズムは、多くの場合、数百万の例を含む非常に大規模な－そしてしばしばクラウドベースの－一連の訓練に基づいて、ロボットが関連を学習し、一般化する方法である。

ロボット工学、人工知能、および増強化の軍事分野の進展は、主に市民社会におけるこれらの進展に基づいている。人工知能と機械学習の開発は、多くの国における大きな投資の分野である。現代のロボットや機械学習は、社会の仕事の本質や我々のショッピングやエンターテインメントについての考え方を変えている。高度なコンピューティングは、大量マーケティング、倉庫保管、民間物流、エンターテインメントの性格を変えた。

ロボット工学と人工知能の適用範囲は、より一体化された人間と機械の組織のデザインを検討するための軍事機関への理論的根拠を提供する。7つの命題と銘打った適用のリストは、網羅的ではない。しかし、これらの命題は、将来の人間と機械の部隊を開発するための軍事的立証の目的、または理由を提供する。

命題1

軍事力は、人間の可能性とロボットおよび/または人工知能能力を組み合わせることによって強化することができる。人口規模と経済的強さは、伝統的に、国家の軍事力の重要な決定要因であった。しかし、多数のロボットシステムや人工知能、場合によってはウェアラブル、機械的、移植可能な増強を伴う人間への適用は、この計算手法を変えるかもしれない。地理学や戦略文化の影響を無視していないが、人間、ロボット、人工知能の組み合わせは、小規模で、高齢化し、または人口の減少している国に、伝統的能力を超えた軍事力と大衆を生み出す可能性を提供する。このようなシナリオは推測ではあるが、人口の少ない先進工業国が人工知能に基づいた軍事システムにおいて大きな優位性を生み出し、それにより高度な能力を持つヒューマン・マシン・チームでより多くの能力のあるロボット戦闘員を配備する可能性がある。

命題2

致命的な自律型ロボットは、軍隊の人間に対する脅威を減らすことができる。自動システムと自律システムの信頼性と可能性が向上するにつれて、軍隊は意思決定権限をより自発的に委任するようになる。多くの軍組織は、より大きなレベルの権威を機械に委任しようとする誘惑の増加に直面し、そうでなければそうする相手の手に負けることに直面する。一部の人にとっては、これは現実的な問題でさえあるかもしれない。ロシアの軍事産業委員会は、ロシアの戦闘力の30％が2030年までに遠隔操作型および自律型ロボットプラットフォームで構成される計画を承認した。人口統計学上および安全保障上の課題に直面している他の国々も同様の目標を設定する可能性が高い。米国国防総省は、致命的な力を振るう自律的、半自律的なシステムの使用を制限しているが、西側諸国に敵対する国家や非国家主体は、こうした自制を働かせないかもしれない。

命題3

破壊的なスウォーミング技術は、新たな作戦の方法を可能にする。人工生命、人工知能、複雑適応システム、粒子群最適化の新しい分野と学際的な研究分野は、将来の紛争で自己組織化されたロボット群が使用される機会を提供している。従来の敵部隊は署名システムや運用を低下させ、非国家主体は引き続き非線形で分散したアプローチを採り入れているため、地上部隊によって多くの地上を覆う能力はますます難しくなっている。｢将来の戦いのアンソロジー(詩選集)｣でRobert Scalesが述べる友軍部隊のための1つの潜在的な解決策は、敵対者－在来型または非国家－を強制的に動かし、発見し、友軍部隊によって標的とする小さな自律システムで作戦地域を飽和さる。Trevor Dupuyが書いたように、「軍事分野における新しくまたは想像的な考え方は単純に新しいこととは対照的に、新しい考え方は、劣勢の部隊が、より大きくより良い装備を持った部隊に打ち勝つことを可能にするという事実によって評価できる。我々は、新しい方法を適用することを期待する一方で、新しい考え方がは常に友軍部隊によって生み出されるとは限らない。

命題4

部隊の保全は戦術的必要性であり戦略的必要性である。 2017年現在、ほとんどの軍事組織は数百億あるいは数千億ドルの装備を保有している。例えば、ヘリコプターは数百万ドルの費用がかかり、年間維持費は大幅に増加する。高品質のクワッドコプタ―は現在、約1,000ドルの費用がかかる。1つのハイエンドヘリコプターのコストのために、陸軍または空軍は100万機のドローンを獲得する可能性がある。ロボット市場が現在の価格低下傾向を維持する場合、将来的には数字は10億に近づく可能性がある。明らかに、これは役割と機能を考慮しない単純な比較である。しかし、将来的には、今日のいくつかの弾道兵器よりもドローンが安くなる可能性がある。水陸両用タスクグループは数百万の空中のカミカゼ攻撃ドローンからの攻撃に、どのように対応するのか？軍隊が現在依存している主要なプラットフォームや戦略のいくつかは時代遅れになっているか、少なくとも、はるかに脆弱になっている可能性がある。

命題5

ロボットは将来、倫理的な選択として採用されるかもしれない。ロボット工学の専門家の中には、致死性を持つ自律型ロボットが人間の戦闘員にとって倫理的に好ましいと主張している。Elinor Sloanは、致死性を持つ機械の展望が冷え冷えとなる一方で、核兵器や化学兵器の過大な被害や苦しみを引き起こす可能性も低いと書いている。注目せずにいられない議論は、ロボットの広範な使用が、紛争で殺される間の数を減らす可能性を保持しているということである。さらに、将来の自律型ロボットは自己保全の本能をプログラムする必要がないため、戦場でより人間的に行動することができ、射撃第一を保持せず、接近した後に問いかける可能性がある。ロボットの判断は、恐怖やヒステリーなどの感情の影響を受けにくく、先入観に合うようにすることを捨てたり歪めたりすることなく人間より多くの入力するセンサー情報を処理することが出来る。これらの願望にもかかわらず、2010年のWall Street Flash Crashや2016年のMicrosoft Tay Chatbotの暴言などのアルゴリズムの誤動作の事件は、人工知能のバイアスを最小化するために求められる重要な技術開発は依然として必要であることを示しており、人工知能に対する人間の理解と監視が引き続き求められることを示している。

命題6

人間の増強は軍事従事者の仕事をより安全にすることを可能にする。機能の増大は軍事で長い歴史を持ち、人間の機能増大を支える科学と技術が急速に進化している。ロボット工学の純粋な機械的アプローチとは異なり、増強は薬物やバイオニクスなどの生物医学的方向からスーパーソルジャーを創造しようとしている。戦闘だけでなく非戦闘機能のために、軍事は、機械のようなより多くの仕事をする人のソフトな有機体躯を求めるだろう。LinとAbneyは、｢強化された戦闘員：リスク、倫理、そして政策｣で｢ロボット工学と生物医学研究の間で、完璧な将来の戦闘員に至ってしまうかもしれない。機械の一部と人間の一部は、技術と我々の弱さの間の非常に優れたバランスをとっている｣と述べている。

命題7

将来、敵対者がこれらの技術を使用する可能性が高い。冒頭で述べたように、この種の技術への入り口のバーは低く、引き続き下がり続けている。これは、これらの技術が他の小さな国家の軍事組織だけでなく非国家主体には、非常に魅力的であることを意味する。モスルでの最近の活動では、イスラム国家(IS)は、武装化と非武装化の無人地上機と無人航空機を展開した。これを妨げる既存の倫理的枠組み、または法的枠組みは無い。より高価な従来の機能と比較すると、ロボットと人工知能の低コストと利用の容易性は、これらの非常に魅力的な機能を実現する。Ian Morrisが｢戦争：それは何のためになるのか？｣で書いているように｢ナノ秒のOODAループを持つロボットが、ミリ秒のOODAループで人間を殺し始めると、もう議論にならない｣ 軍事組織は、彼らがそうしなくても彼らの敵が行うだろうという恐れから兵器やその他の戦争の装備に人工知能を組み込むだろう。

結論

将来のある時点で、歴史家は現在の時代を人間と機械の革命(human-machine revolution)の幕開け、あるいは恐らく軍事分野における第6の革命の始まりとして振り返るだろう。Williamson Murrayは、「軍事における革命のダイナミクス(The Dynamics of Military Revolution)」で、そのようなことはあまり前もって明白なものではなく、振り返ってみれば注目すべき戦場で成功しただけと明白に示している。このような革命の社会的、技術的、政治的、軍事的な要素は確かに存在するが、軍事分野における革命を構成するかどうかは、今後の歴史的議論に委ねられる。

しかし、軍事組織において人間と機械の緊密な一体化を採用することは、潜在的な優位性を提供することはほとんど疑いがない。このような優位性は、軍事機関がヒューマン・マシン・チーム化にエンタープライズ・アプローチを適用すれば、戦場をはるかに拡大させることができる。それらのことは、彼らがそうする方法の範囲がある。それはヒューマン・マシン・チーム化に関する私の2番目の記事の焦点になるだろう。