映画『ターミネーター』の世界のようなAIロボットが人間を殺める時代はもう訪れているのかもしれません。国連（UN）の報告によると、トルコ製の軍用ドローンが戦闘において人間による操作ではなく、自律的、且つ積極的に人間を追跡、攻撃したことが示されました。これはドローンが人間を自律的に攻撃を行った初めてのケースになるかもしれません。
報告書を入手したNewScientistの報道によるとリビアに関する国連安全保障理事会の専門家グループは、今年3月に報告書を発表し、軍用ドローンが人間を自律に攻撃した可能性を明らかにしました。報告書によると、攻撃に関与したのはトルコの軍需企業 STM が製造した Kargu-2 UAVになります、この UAV は 2020年3 月に北アフリカのリビア紛争における、国民合意政府（GNA）とハリーファ・ハフタルが指揮する軍事組織「リビア国民軍」との戦闘の間で展開されました。GNAはトルコが支援しており、使用したのはGNA側かと思われます。
LAWS＝完全自律型致死性兵器
Kargu-2 UAVは非対称戦争または対テロ作戦のために設計された遠隔操作及び自律航行可能な回転翼式攻撃ドローンです。爆弾の搭載が可能で標的に体当たり攻撃する、いわゆるカミカゼ・自爆ドローンになります。ドローンに組み込まれた固有のリアルタイム画像処理機能と機械学習アルゴリズム（AI）により、静的または移動する物体に対して自律的にターゲットを検出、追跡、捕捉することが可能です。これにより、オペレーターと繋がっていなくとも自律航行し、標的を検出、追跡し、プログラムによっては最終的に標的に突っ込み自爆します。つまり、AIが自動的にターゲットを捕捉、識別、攻撃までの工程を自動で行います。つまり、これらはKargu-2 UAVが人の生殺与奪を判断する「Lethal Autonomous Weapons System：LAWS＝完全自律型致死性兵器」を意味します。
報告書は、攻撃によって兵士が死亡したかどうかについては言及しておらず、実際に殺めたかは不明ですが、ドローン、AIが自律的に攻撃を行ったのは事実のようです。
Türk Silahlı Kuvvetlerimizin envanterine girerek güvenlik güçlerimizin kullanımına sunduğumuz Otonom Döner Kanatlı Vurucu İHA sistemimiz KARGU’dan “Ateş Serbest-2020” Tatbikatında TAM İSABET! 🇹🇷 #KARGU #iha #loiteringmunitions #drone pic.twitter.com/94ZNSessVd
— STM (@STMDefence) October 22, 2020
国立テロ研究コンソーシアムの研究者であるザカリー・カレンボーン氏は「ドローンが自律的に人間を攻撃したのは初めてかもしれない」と述べています。各国で自律兵器、AI兵器の開発が進んでいますが、今のところ自律行動の範囲は偵察や監視、追跡までに限定されており、最終的な攻撃の判断は人間が行い、人間が操作します。これはAIが視覚データを常に正しく解釈できるとは限らないからです。つまり、非戦闘員、民間人を攻撃する恐れがあります。そのため、米軍などでは現在AIの軍事的意思決定にはすべて人間が関与することを義務付けています。
国連はLAWSにおいて「攻撃の判断には必ず人間を関与させる」という国際的な指針を2019年に定めようとしましたが。過度な規制を嫌ったロシアと米国が反対したため、LAWS使用に関する国際的な規制は今のところありません。
Source
https://www.newscientist.com/article/2278852-drones-may-have-attacked-humans-fully-autonomously-for-the-first-time/
https://www.dailystar.co.uk/news/world-news/killer-ai-drones-hunted-down-24203431
https://www.stm.com.tr/en/kargu-autonomous-tactical-multi-rotor-attack-uav
