機械と戦争をするという厄介な倫理の内部

戦闘における意思決定にはAIが進出しつつある。 何か問題が起こったとき、誰が責任を負うのでしょうか？

近未来の戦争――私たちが知っている限りでは、明日始まるかもしれない――では、兵士が誰もいない屋上で射撃位置に陣取った。 彼の部隊は街をブロックごとに戦っています。 あたかも敵があらゆる角の後ろで静かに待ち構えており、射撃の瞬間に自分のマークに火の雨を降らせようとしているかのように感じられます。

兵士は照準器を通して近くの建物の窓を調べます。 彼はバルコニーに新鮮な洗濯物が下がっていることに気づきました。 彼のチームが眼下の開けた土地を横切って移動しようとしているという知らせが無線で入った。 彼らが出発すると、照準器の左上隅に赤い境界ボックスが表示されます。 このデバイスのコンピュータ ビジョン システムは、潜在的なターゲットにフラグを立てました。窓の中のシルエットの人物が、射撃しようと近づいているようです。

兵士には明確な視界はありませんが、彼の経験によれば、システムには敵のわずかな情報をキャッチする超人的な能力があります。 そこで彼は十字線を箱に当て、引き金を引く準備をしました。

おそらく地平線のすぐ向こうにある別の戦争で、指揮官がモニターの列の前に立っています。 チャットボットからアラートが表示されます。 それは、敵のロケット発射の準備区域として指定されている特定の街区に進入するトラックを衛星が捕捉したというニュースをもたらした。 チャットボットはすでに、推定「撃墜確率」が最も高いと計算した砲兵部隊に対し、トラックに狙いを定めて待機するようアドバイスしている。

チャットボットによると、近くの建物はいずれも民間の建造物ではないが、その判断はまだ手動で裏付けられていないと述べている。 より詳しく監視するためにシステムによって派遣されていたドローンが現場に到着します。 そのビデオには、トラックが2つの敷地の間の狭い通路にバックで進入する様子が映っています。 シュートチャンスは急速に近づいている。

指揮官にとって、今ではすべてが沈黙します。 混乱、不確実性、不協和音はすべて、時計のカチカチという音と、1 つの光るボタンの光景に還元されます。

「消火命令を承認してください。」

引き金を引くこと、あるいは場合によっては引き金を引かないこと。 ボタンを押すか、押し続けるか。 法的にも倫理的にも、生と死の問題における兵士の決定の役割は傑出しており、不可欠です。 基本的に、人間の戦争行為を定義するのはこれらの決定です。

自動化は難しい選択をするのに役立ちますが、それを単独で行うことはできません。

したがって、国家や市民社会が、インテリジェント自律兵器、つまり人間の介入なしに標的を選択して発砲できる兵器の問題を深刻な懸念事項として取り上げていることは、それほど驚くべきことではない。 10年近い議論を経て5月、国連の特定通常兵器に関する条約の締約国は、他の勧告の中でもとりわけ、これらを使用する軍隊はおそらく遵守するために「作戦の期間、地理的範囲、および規模を制限する」必要があるとの合意に達した。戦争法。 この規定には拘束力はなかったが、少なくとも、人間は殺人に至る直前の過程において、どこかで、いつかは役割を果たさなければならないという認識を示したものであった。

しかし、人間の意思決定を完全に置き換えるインテリジェント自律兵器は、（おそらく）まだ現実世界で使用されていません。 米国やその他の大国が運用する「自律型」ドローンや船舶でさえ、人間の厳重な監視の下で使用されている。 一方、引き金を引く手を単に誘導するだけのインテリジェント システムは、戦争メーカーのツール キットとして購入されてきています。 そして、彼らは静かに、斬新な疑問を提起するのに十分洗練されてきました。その疑問は、よく報​​道されている殺人ロボットを巡る争いよりも答えるのが難しく、日を追うごとに切実さを増しています。つまり、決断が人間の一部でしかなく、人間の一部にすぎないということは何を意味するのでしょうか。部品の機械？ そして、もしあるとすれば、その決断が殺人の決断となるのは、どのような場合に倫理的なのでしょうか？

長い間、コンピュータ化された手段によって人間の意思決定をサポートするというアイデアは、それほど物議を醸す見通しではありませんでした。 退役空軍中将ジャック・シャナハン氏は、1980年代に操縦したF4ファントム戦闘機のレーダーはある種の意思決定の助けになったと語る。 それは他の航空機の存在を警告し、それに対して何をすべきかを判断できるようにするためだと彼は私に語った。 しかし、乗組員とレーダーが共犯者だったというのは言い過ぎだろう。