„Emergierendes“ KI-Verhalten und das menschliche Schicksal


Michael Klare | Overton

Illustration eines Drohnenschwarms. Bild: mil.in.ua

Ja, es ist bereits Zeit, sich Sorgen zu machen – sehr große Sorgen. Wie die Kriege in der Ukraine und im Gazastreifen gezeigt haben, haben es die ersten Drohnenäquivalente von „Killerrobotern“ auf das Schlachtfeld geschafft und sich als verheerende Waffen erwiesen. Aber zumindest bleiben sie weitgehend unter menschlicher Kontrolle.

Stellen Sie sich einen Moment lang eine Welt des Krieges vor, in der diese Drohnen (oder ihre Äquivalente am Boden und auf See) uns kontrollieren und nicht andersherum. Dann befänden wir uns auf einem zerstörerisch anderen Planeten, der heute fast unvorstellbar scheint. Leider ist es aber alles andere als unvorstellbar, wenn man bedenkt, dass die Großmächte bereits mit der Arbeit an Künstlicher Intelligenz (KI) und Roboterwaffen begonnen haben. Lassen Sie mich Sie nun in diese geheimnisvolle Welt entführen und versuchen Sie sich vorzustellen, was die Zukunft der Kriegsführung für uns alle bedeuten könnte.

Durch die Kombination von Künstlicher Intelligenz und fortgeschrittener Robotik arbeiten das US-Militär und die Streitkräfte anderer großer Mächte bereits hart an der Entwicklung einer Reihe von selbstgesteuerten „autonomen“ Waffensystemen – Kampfdrohnen, die unabhängig von menschlichen Offizieren, die sie befehligen sollen, tödliche Gewalt anwenden können. Zu diesen von Kritikern als „Killerroboter“ bezeichneten Geräten gehört eine Vielzahl von unbemannten Flugzeugen, Panzern, Schiffen und U-Booten, die autonom operieren können.

Die US-Luftwaffe zum Beispiel entwickelt ihr „kollaboratives Kampfflugzeug“, ein unbemanntes Luftfahrzeug (UAV), das bei risikoreichen Einsätzen gemeinsam mit pilotengesteuerten Flugzeugen eingesetzt werden soll. Die Armee testet ebenfalls eine Reihe autonomer unbemannter Bodenfahrzeuge (UGVs), während die Marine sowohl mit unbemannten Überwasserschiffen (USVs) als auch mit unbemannten Unterwasserschiffen (UUVs oder Drohnen-U-Booten) experimentiert. Auch China, Russland, Australien und Israel arbeiten an solchen Waffen für die Schlachtfelder der Zukunft.

Das bevorstehende Auftauchen dieser Tötungsmaschinen hat weltweit Besorgnis und Kontroversen ausgelöst, wobei einige Länder bereits ein vollständiges Verbot anstreben und andere, darunter die USA, planen, ihren Einsatz nur unter durch Menschen überwachten Bedingungen zuzulassen. In Genf hat eine Gruppe von Staaten sogar versucht, den Einsatz und die Verwendung vollständig autonomer Waffen zu verbieten, und beruft sich dabei auf einen UN-Vertrag aus dem Jahr 1980, das Übereinkommen über bestimmte konventionelle Waffen, das darauf abzielt, nichtnukleare Munition, die als besonders schädlich für die Zivilbevölkerung gilt, einzuschränken oder zu verbieten. In New York hat die Generalversammlung der Vereinten Nationen im vergangenen Oktober erstmals über autonome Waffen diskutiert und plant für den kommenden Herbst eine umfassende Überprüfung des Themas.

Die Debatte über den Einsatz solcher Geräte auf dem Schlachtfeld dreht sich vor allem um die Frage, ob sie in der Lage sein werden, Menschenleben ohne menschliche Aufsicht zu töten. Viele religiöse und zivilgesellschaftliche Organisationen argumentieren, dass solche Systeme nicht in der Lage sind, zwischen Kombattanten und Zivilisten auf dem Schlachtfeld zu unterscheiden und daher verboten werden sollten, um Nichtkombattanten vor Tod oder Verletzung zu schützen, wie es das humanitäre Völkerrecht verlangt. Amerikanische Regierungsangehörige hingegen behaupten, dass solche Waffen so konstruiert werden können, dass sie innerhalb der rechtlichen Grenzen einwandfrei funktionieren.

weiterlesen