Im Ukraine-Krieg werden bereits Flugdrohen eingesetzt, die mit KI-Hilfe unabhängig navigieren können. Im nächsten Schritt könnten Maschinen auch Ziele selbst aussuchen, womit ein Albtraum-Szenario aus den "Terminator"-Filmen Realität würde. Wie weit ist die Entwicklung?

Die Angriffe von ukrainischen Drohnen auf mehr als 1200 Kilometer entfernte Anlagen, tief im russischen Hinterland, hat Anfang April großes Aufsehen erregt. Denn vermutlich verfügten die Fluggeräte über eine KI-gestützte Navigation, mit der sie ihre Ziele autonom, ohne Funkkontakt zu einem Piloten, ansteuern konnten.

01:28 min

Politik 03.04.24

Hunderte Kilometer hinter Grenze Russen bergen neuartige Ukraine-Drohne nach Luftschlag

Damit hätte der Einsatz von Angriffsdrohnen die nächste Stufe einer Entwicklung erreicht, an deren Ende Maschinen selbstständig aussuchen könnten, was oder wen sie angreifen und zerstören oder töten. Dass es eines Tages so kommen wird, scheint unausweichlich zu sein, Experten warnen aber davor, zu früh von einem "Zeitalter der Killerroboter" zu sprechen.

KI-Navigation schon Realität

Schon die Möglichkeit, unabhängig zu navigieren, ist ein großer Fortschritt. Denn bisher werden Drohnen üblicherweise über eine Funkverbindung von Piloten geflogen, was sie enorm anfällig für elektronische Störmanöver (Jamming) macht. Die neuen Langstrecken-Drohnen verfügen laut "CNN"-Quellen über Bordcomputer, auf deren Chips ein Modell installiert ist, das gespeicherte Satelliten- und Geländedaten in Echtzeit mit der Umgebung abstimmen kann.

"Die Flüge werden im Voraus mit unseren Verbündeten festgelegt und die Flugzeuge folgen dem Flugplan, damit wir Ziele metergenau angreifen können", so die Quelle. Das KI-System namens "Machine Vision" erfordere keine Kommunikation, sondern arbeite vollständig autonom, sagte Noah Sylvia von der britischen Denkfabrik Royal United Services dem US-Nachrichtensender.

Mit Killerrobotern, wie man sie aus "Terminator"-Filmen kennt, hat dies allerdings noch sehr wenig zu tun. Denn dafür müssten die Drohnen ihre Ziele selbstständig aussuchen, anfliegen und zerstören.

Erste vollautonome Kampfdrohnen scheitern

Angeblich gibt es aber schon erste Kampfdrohnen, die vollautonom handeln können. So hat das ukrainische Verteidigungsministerium im vergangenen September bestätigt, dass die Streitkräfte mit Saker-Scout-Systemen (Saker: Englisch für Würgfalke) ausgestattet werden sollen. "Forbes" zufolge können die Quadcopter mithilfe von KI-Modellen selbstständig 64 verschiedene Militärobjekte finden, identifizieren und angreifen. Die Reichweite der Drohnen soll rund zwölf Kilometer, die Nutzlast bis zu drei Kilogramm betragen.

Üblicherweise greift eine Saker-Scout-Drohne aber nicht selbst an. Sie dient laut "Defense Express" vorwiegend zur Aufklärung und ist mit dem automatischen Situationserkennungssystem Delta der ukrainischen Streitkräfte kompatibel. Hat die KI-Drohne ein Ziel identifiziert, gibt sie die Koordinaten an Piloten mit Angriffsdrohen weiter, die das Ziel dann eliminieren.

Ob das Saker-Scout-System bereits vollautonome Operationen von der Zielfindung über die Angriffsentscheidung bis zur Zerstörung durchgeführt hat, ist offen. Ein Firmensprecher sagte "Forbes", dies sei nur in "geringem Umfang" geschehen. Stacie Pettyjohn schreibt in "War on the Rocks", möglicherweise seien die Systeme zu teuer. Die Expertin vom New American Security (CNAS) vermutet allerdings, dass sie nicht so funktionierten wie versprochen.

In übersichtlichen Umgebungen wie der Luft oder dem Meer sei die Objekterkennung einfach, schreibt sie. Am Boden sei dies jedoch viel schwieriger, wenn ein Feind versuche, sich zu verstecken. An den Frontlinien in der Ukraine, wo es kaum eine Standardisierung der Ausrüstung gäbe, sei es besonders kompliziert, ein völlig autonomes System zu entwickeln, das zuverlässig alle verschiedenen Variationen militärischer Ausrüstung erkennen könne.

Russland muss Rückzieher machen

Ähnlich verhält es sich vermutlich mit angeblichen russischen "Terminator-Systemen", speziell der Kamikaze-Drohne Lancet-3. Laut Institute For Science And International Security hat sie vor allem durch westliche Komponenten "erweiterte Zielfähigkeiten" erlangt.

Die Lancet-3 verfüge über KI-Analyse- und Bildverarbeitungsfunktionen, die von einem Jetson-Modul des US-Unternehmens NVIDIA angetrieben würden. NVIDIA-Software ermögliche es dem Drohnensystem, bestimmte Objekte einzeln oder in Gruppen autonom zu suchen und zu verfolgen. Durch ein Leit- und Navigationsmodul der Schweizer Firma U-Blox verfüge die Drohne außerdem über fortschrittliche Anti-Jamming- und Anti-Spoofing-Funktionen.

Der russische Militärexperte Mikhail Kuzovkin sagte dem TV-Sender REN TV im vergangenen Dezember, die Zielerfassung erfolge jetzt autonom und benötige keinen Funkkontakt mehr. Doch das war wohl übertrieben. "Die Lancet-3 wurde mit einer autonomen Zielerkennung und -bekämpfung beworben, obwohl diese Behauptungen nicht bestätigt sind", schrieb Pettyjohn im Februar in einem Bericht für CNAS. "Beide Parteien behaupten, künstliche Intelligenz einzusetzen, um die Fähigkeit der Drohne, ihr Ziel zu treffen, zu verbessern, aber wahrscheinlich ist ihr Einsatz begrenzt."

Das sieht auch David Hambling so, der für "Forbes" über den Drohnenkrieg berichtet. Mitte Februar schrieb er, eine Analyse von veröffentlichten Einsatzvideos habe ergeben, dass die automatische Zielerfassung der Lancet-3 offenbar deaktiviert worden sei.

Davor habe man in den Aufnahmen Vierecke gesehen, die angezeigt hätten, dass das Ziel anvisiert worden sei. Dies sei nicht mehr der Fall. Er schließt daraus, dass die automatisierte Zielerfassungssoftware verfrüht eingeführt wurde und es zu Rückrufen gekommen sei. Doch aufgeschoben heißt nicht aufgehoben. Das Ziel des Lancet-3-Herstellers ZALA blieben Schwarmdrohnen mit völliger Autonomie.

Das trifft sicher auch auf das ukrainische Programm zu. "Wer einen Durchbruch in der Drohnentechnologie erzielt und sie schnell skaliert, hat einen großen Vorteil", sagte Sam Bendett vom CNA "Breaking Defense". Und man kann davon ausgehen, dass auch die USA oder China fieberhaft an vollautonomen KI-Drohnen arbeiten.

China prescht vor

"Indian Defence Review" zufolge ist China aktuell "das führende Land bei der Drohnenschwarm-Technologie und dem Einsatz von KI-gesteuerten Drohnen." Peking rüste bereits seine Wing Loong und andere Drohnen mit KI aus und konkurriere in diesem Bereich mit den USA.

Bei einem Versuch habe eine chinesische KI-Drohne eine von einem Piloten gesteuerte Drohne überflügelt, schreibt "Indian Defence Review". Dabei sei der NVIDIA-Chip Jetson TX2 zum Einsatz gekommen, der auch in der russischen Lancet-3 gefunden wurde. Diese Jetson-Serie werde in China hergestellt, der Export leistungsfähigerer Chips an China hätten die USA verboten.

Leichtsinnige Kooperationen helfen Peking

Das stelle China aber vor keine unlösbare Aufgabe, das Land habe bewiesen, dass es sich fortschrittliche Technologie mit allen Mitteln beschaffen könne, so "Indian Defence Review". Ein möglicher Weg sei die weitere Zusammenarbeit mit Europa auf diesem Gebiet. Zwischen 2017 und 2022 hätten europäische Forscher mehr als 16.000 KI-bezogene Arbeiten mit chinesischen Kollegen veröffentlicht, die an Institutionen und Universitäten tätig seien, die entweder direkt vom chinesischen Militär kontrolliert würden oder eng mit diesem verbunden seien.

Sogar die Universität der Bundeswehr sieht darin offenbar kein Problem. In Zusammenarbeit mit einer Universität der Volksbefreiungsarmee habe sie eine Studie über KI-Arbeiten durchgeführt, die zum Aufbau automatischer Zielsysteme beitragen könnten. Ein Bericht von "Science Business" bestätigt das. Weitere Studien befassen sich mit der "integrierten Lenkung von Flugkörpern" und der "Drohnen-Zielverfolgungsmethode basierend auf Deep Reinforcement Learning".

USA wollen aufholen

China mag aktuell die Nase vorn haben, aber die USA haben ehrgeizige Pläne aufzuholen oder die Volksrepublik auf dem Gebiet der autonomen Kampfdrohnen zu überholen. Im vergangenen Sommer kündigte Vize-Verteidigungsministerin Hicks das Replicator-Programm an, das vorsieht, innerhalb von zwei Jahren "mehrere Tausend" Drohnen mit dem Ziel anzuschaffen, China die Stirn bieten zu können.

Einen großen Fortschritt hat das Programm aber bisher nicht gemacht. "Nach fast sieben Monaten in Hicks' Zeitplan hat die Öffentlichkeit noch immer keine Vorstellung davon, wie diese Systeme aussehen werden oder wer sie bauen wird", berichtete das US-Nachrichtenportal Vox Ende März.

Das bedeutet aber nicht, dass die Entwicklung autonomer Kampfsysteme in den USA stillsteht. An erster Stelle ist hier wohl die vom Unternehmen Kratos entwickelte Tarnkappen-Flugdrohne XQ-58A Valkyrie zu nennen. Das Air Force Research Laboratory (AFRL) nennt sie "eine unbemannte Plattform mit hoher Geschwindigkeit, großer Reichweite und geringen Kosten, die maximalen Nutzen bei minimalen Kosten bietet."

Nur noch eine Frage der Zeit

Im vergangenen Juli wurde sie erstmals von einem KI-Piloten geflogen, was von US-Militärs als Meilenstein gefeiert wurde. Bisher hätten autonome Drohnen nur einfache Anweisungen befolgen können, beispielsweise die Rückkehr an einen vorher festgelegten Ort, nachdem sie den Funkkontakt zu ihren Piloten verloren hatten, sagte Einsatzleiter Oberst Tucker Hamilton Defense One. Jedes Detail sei vorgegeben gewesen.

Jetzt gebe man der Drohne ein Ziel vor und sie "entscheidet selbst, mit welcher Drosseleinstellung, welchem Neigungswinkel, welcher Höhe und welchem Sturzflugwinkel sie dieses Ziel erreichen will. Das ist die KI-gestützte Autonomie, über die wir hier sprechen." Es sei großartig, sie im Einsatz zu erleben. Am 2. April absolvierte die Valkyrie einen erfolgreichen Testflug im Verbund mit zwei bemannten F-35-Kampfflugzeugen.

Die Frage ist also nicht ob, sondern wann vollautonome Kampfdrohnen in den Krieg ziehen. Das verlangt nach Regeln, was sie ohne menschliche Kontrolle machen dürfen, welche Entscheidungen man Algorithmen überlassen möchte. Die USA haben vergangenen November eine Erklärung zur verantwortungsvollen militärischen Nutzung von KI und Autonomie veröffentlicht, die bis Ende Februar dieses Jahres 52 Staaten unterzeichnet haben. China und Russland gehören nicht dazu.