Drohnen, KI und Zeitenwende – Ulrike Franke über die Zukunft der Kriegsführung

00:00:04: Der

00:00:14: Krieg in der Ukraine hat die europäische Sicherheitsordnung grundlegend verändert.

00:00:18: Er hat aber auch etwas anderes sichtbar gemacht, wie sich Krieg technologisch verändert.

00:00:23: Dronen gehören heute zu den wichtigsten Instrumenten der Kriegswirkung.

00:00:27: Algorithmen analysieren Aufklärungsdaten in Echtzeit und künstliche Intelligenz wird zunehmend zu einem militärischen Faktor.

00:00:35: Viele Militärstrategen sprechen deshalb von einer neuen Phase der Kriegswürdung, eine Phase in der technologische Innovation über strategische Vorteile entscheiden kann.

00:00:46: Die zentrale Frage lautet deshalb wie verändern Drohnen, Daten und künstliche Intelligenz militärdusche Macht?

00:00:54: Und was bedeutet das für Deutschland und für Europa?

00:00:58: Darüber spreche ich heute mit Dr.

00:00:59: Ulrike Spanke, Politikwissenschaftlerin und Senior Policy Fellow beim European Council on Foreign Relations.

00:01:06: Sie beschäftigt sich seit vielen Jahren mit der Zukunft der Kriegsführung, militärischer Innovationen und mit der Rolle Europas im technologischen Wettbewerb!

00:01:16: Mein Name ist Rana Taschkoper-Dann.

00:01:18: Herzlich willkommen zu einer neuen Folge von Auslands Info Spotlight.

00:01:28: Hallo, Frustranke.

00:01:29: Ich freue mich sehr, dass Sie heute da sind!

00:01:33: Ja, danke für die Einladung!

00:01:34: Wir beginnen unserem Podcast immer mit einer kleinen Aufwärmrunde.

00:01:38: Da gebe ich Ihnen Teilsätze vor, die Sie bitte vervollständigen einverstanden?

00:01:43: Okay...

00:01:47: Was mich an Themen wie Drohnen, KI und Militärduster Innovation besonders fasziniert ist…

00:01:54: Das es sich sehr schnell verändert – also das passiert die ganze Zeit

00:01:59: was?!

00:02:00: Und das ist einfach unheimlich relevant.

00:02:03: Künstliche Intelligenz verändert militärdusche Macht vor allem deshalb, weil...

00:02:09: Das wissen wir noch nicht!

00:02:10: Aber aktuell würde ich sagen, aktuell, weil es eine größere Geschwindigkeit in die Kriegsführung bringt.

00:02:19: aber mittel- und langfristig könnte es tatsächlich wirklich fundamentale Veränderungen Kriegsführung mit sich bringen, als dass KI eine Art Akteur im Krieg werden könnte.

00:02:30: Und das wäre dann tatsächlich ein Veränderungen, wie wir sie so von anderen militärischen Technologien in der Vergangenheit nicht

00:02:35: hatten.

00:02:36: Autonomiesysteme werden militärbisch vor allem relevant wenn...

00:02:41: Wenn die andere Seite autonome Systeme

00:02:43: hat?

00:02:47: Lassen Sie uns etwas tiefer einsteigen und auf den Krieg schauen, der diese Debatte gerade so am stärksten trägt – dem Krieg in der Ukraine!

00:02:58: Diesen Krieg schaut fällt etwas sofort auf.

00:03:00: Drohnen sind inzwischen überall im Einsatz für Aufklärung, für Angriffe und Koordination von Artillerie.

00:03:08: Manche Beobachter sprechen sogar vom ersten großen Drohning-Krieg der Geschichte.

00:03:14: Erleben wir da gerade eine echte Devolution der Kriegsführung oder ist das am Ende doch eher eine Weiterentwicklung bekannter militärischer Muster?

00:03:24: Das ist jetzt die perfekte Frage für mich.

00:03:26: Ich habe tatsächlich meine Doktorarbeit schon vor einigen Jahren geschrieben über die Frage, ob Drohnen denn eine sogenannte revolution in militärischen Angelegenheiten auslösen?

00:03:35: Da ging es noch um so die Predator and Reaper dieser Welt also diese größeren fein gesteuerten Drohnsysteme, von den USA oder westlichen Staaten eingesetzt wurden, um Kriege ja oft weit weg irgendwie von ihren Territorien zu führen.

00:03:50: In der Ukraine sehen wir jetzt was anderes.

00:03:52: und in der Tat das ist so ein bisschen der erste große Drohnenkrieg.

00:03:55: Es ist nicht die erste Krieg auf dem beide Seitendrohnen haben.

00:03:58: Das war mindestens schon der Fall in Nagorno-Karabakh zwischen Armenien und Asapajan.

00:04:03: es ist auch überhaupt nicht der erste Krieг wo irgendwie Drohne im Einsatz sind.

00:04:06: Wir hatten drohnen in Vietnam Krieg Im Kosovo Krieg.

00:04:09: Also das geht schon ganz schön lange zurück.

00:04:10: aber in der Tarte In der Ukraine sehen wir Veränderungen, die zumindest häufiger als revolutionär bezeichnet werden.

00:04:18: Das hat was zu tun mit der Zahl der Drohnen, die da im Einsatz sind.

00:04:21: Wir reden inzwischen über Millionen von Drohne.

00:04:24: Da wird es so tun, dass viele Drohn hier de facto eine Art Munition sind und insofern einmal verwertbar.

00:04:29: Und das bringt natürlich die Zahl nach oben.

00:04:31: aber trotzdem ... Die Zahlen sind nicht ganz belastbar.

00:04:35: Aber zwischen siebzig und neunzig Prozent, je nachdem der Toten und Verletzten aktuell in der Ukraine werden durch Drohneln.

00:04:42: verursacht, also unglaubliche Zahlen.

00:04:47: Ist das revolutionär?

00:04:48: Ich würde sagen so wie man das in typischen Sprachgebrauch benutzt wahrscheinlich ja.

00:04:53: es ist halt zumindest wirklich die Kriegsführung oder den Krieg fundamental beeinflusst.

00:05:00: Wissenschaftlich sind die sogenannte Revolutionen militärischen Angelegenheiten sondern ein ganzes Konzept und da geht es um fundamentale Veränderungen der Kriegsführung ausgelöst nicht nur durch den Technologie sondern auch wenn sie angewendet wird.

00:05:11: Das ist so eine große Debatte.

00:05:14: Da wäre ich vielleicht noch etwas vorsichtiger, insofern als das Krieg schon irgendwie kriegt bleibt.

00:05:18: aber es ist ganz klar dass wenn wir diese Drohne nicht hätten der Krieg in der Ukraine auch anders aussehe.

00:05:23: also wir hatten jetzt zum Beispiel nicht diese riesengroße Frontlinie die keine Linien mehr ist sondern ja so ne Zone also zwanzig dreißig Kilometer irgendwie wo niemand mehr sicher sein kann werden vielleicht nicht diesen Krieg da in den Schützengräben, wo teilweise die Soldaten sich auch gar nicht mehr bewegen können.

00:05:38: Weil sie eben unter Drohnenbeobachtung stehen... Ja also es gibt viele Dinge, die sicherlich anders aussehen würden wenn's die Drohne so nicht gäbe.

00:05:44: Insofern ist das ein sehr relevanter Faktor in diesem Krieg.

00:05:47: und ja wenn ich revolutionär dann doch eine ziemlich grundlegende Veränderung.

00:05:52: vielleicht noch ein letzter Satz?

00:05:53: Evolutionär ist es natürlich trotzdem irgendwie als dass wie ich gerade gesagt habe wir hatten drohen schon im Vietnamkrieg.

00:05:59: Ich sag immer so, die modernen Drohnen kamen ungefähr um die Jahrtausendwende.

00:06:03: Jetzt hatten wir in den letzten zehn Jahren noch mal eine Veränderung durch das Aufkommen von Hobbydrohnen, kommerziellen Systeme.

00:06:10: aber eigentlich ist eben eine Evolution im technischen Sinne und auch im militärischen Einsatz.

00:06:15: also es ist selten dass das jetzt irgendwie vom einen Tag auf anderen komplett neu ist.

00:06:20: Insofern ist da eine Evolution drin.

00:06:21: Aber das soll nicht davon ablenken, dass es wirklich einen ziemlich fundamentalen Wandel jetzt durch diese Drohne in der Ukraine gibt.

00:06:30: Sie haben eben gesagt, dronen gab es schon im Vietnamkrieg dann später auch in Nagorno-Kardabach, im Krieg zwischen Armenien und Azerbaijan.

00:06:38: Da stellt sich natürlich die Frage was macht dronenden?

00:06:42: Militärtisch eigentlich gerade jetzt so attraktiv, warum haben sie sich so schnell zu einem zentralen Instrument moderner Kriegsförderung entwickelt?

00:06:49: Weil ich habe so das Gefühl, gerade jetzt sind Sie in aller Munge.

00:06:54: Das ist richtig!

00:06:55: Das hat zum einen damit zu tun dass der Krieg in der Ukraine sich für drohen besonders angeboten hat.

00:07:00: Also zum Beispiel die bemannte Luftfahrt war weitestgenneutralisiert durch Flugabwehrsysteme und das war dann so ein bisschen der Moment, wo man Drohnen benutzen würde.

00:07:10: Es waren auch ... Die Ukraine z.B.

00:07:12: hatte jetzt gar nicht eine Riesen-Luftwaffe.

00:07:14: also das wäre jetzt eine andere Situation gewesen in einem hypothetischen Krieg zwischen Russland oder der NATO oder China und den USA.

00:07:21: Wo man einfach mehr bemannten Systeme hatte.

00:07:23: Das ist ein Phänomen.

00:07:25: Aber ich würde tatsächlich sagen, dass was fundamental den Ausschlag gegeben hat war und ist die Verfügbarkeit von Drohnen.

00:07:31: Und das hat damit zu tun, zumindest so vor ein, zwei Jahren in der Ukraine auch viel wirklich kommerzielle Drohnsysteme im Einsatz gesehen haben.

00:07:40: De facto Hobbysysteme.

00:07:42: So tatsächlich die Systeme, die sie und ich auch im Miliamarkt oder anderswo kaufen können – und die waren einfach verfügbar!

00:07:48: Die wurden eingesetzt nicht zwangsläufig weil sie das beste System waren sondern weil sie da waren im Gegensatz zu anderen militärischen Systemen, die nicht da waren, weil sie nicht geliefert werden konnten oder nicht geliefert wurden aus politischen Situationen.

00:08:02: Und das hat der Entwicklung einen unglaublichen Schub gegeben, dass man eben drohende Missen überall eingesetzt hat und teilweise waren sie de facto nicht so gut wie die Systeme, die man eigentlich lieber gehabt hätte.

00:08:13: Und teilweise hat man gesehen, oh, das funktioniert ja mega-gut!

00:08:17: Das ist vielleicht viel besser als irgendwie ein anderes militärisches System.

00:08:21: Insofern würde ich tatsächlich sagen, Verfügbarkeit ist so ein Thema was ganz weit oben steht in diesem Krieg die Drohnen so eine große Rolle gespielt haben und immer noch spielen.

00:08:33: Vielleicht mal etwas dumm gefragt, aber wie kann man denn Hobbidrohnen militär durch einsetzen?

00:08:40: Ja, das ist gar keine dumme Frage!

00:08:41: Das ist insofern spannend... Also es ist eine interessante Entwicklung, denn Drohne waren wirklich über Jahrzehnte, man kann sagen Jahrhunderte je nachdem wo man hingeht mit dem Anfang der Drohnenentwicklung wirklich nach rein exklusiv militärische Technologie.

00:08:54: Es war immer eine militärischen Technologie die dann eben auch nur Militär zur Verfügung stand und insofern auch ein relativ kleiner Zahl.

00:09:00: Und dann etwa um die Jahrtausendwende ich sag mal so the star is aligned irgendwie für Drohne weil man einmal jetzt geopolitische Veränderungen hatten, was Militärs nochmal Interessierte gemacht hat an Drohnen.

00:09:11: Aber vor allen Dingen hatten auch technologische Entwicklungen und dieselbe Technologien, grob gesprochen die quasi die Entwicklung vom Handy zum Smartphone zum iPhone möglich gemacht haben, haben auch die Entwicklung von eben Drohnern möglich gemacht.

00:09:24: Und sie haben es möglich gemacht dass kommerzielle Akteure für relativ wenig Geld eigentlich krass fähige Systeme bauen können.

00:09:32: also war so eine kleine Drohne die man für ein paar hundert Euro jetzt kaufen kann inzwischen kann Das hätte man mal über einen Modellflugzeugbauer in den Achtzigern sagen sollen.

00:09:40: Hätte man auch nicht geglaubt, aber das ist eben eine technologische Entwicklung mit Sensorik und Wartenverbindungen und allen möglichen zu tun.

00:09:48: Und dann hatte man jetzt diese Hobbysysteme die ganz schön viel konnten was sie nämlich erstmal können Aufklärung, denn die haben ja auch alle irgendeine Kamera.

00:09:57: Entweder eine Fotokamera oder eine Videokamara und so ein System ist halt auch in einem militärischen Kontext super interessant weil man damit aufklären kann.

00:10:04: Man kann über den nächsten Hübel gucken, man kann über der nächsten Mauer gucken.

00:10:08: Man muss sehr aufpassen, denn kommerzielle Systeme sind natürlich nicht dafür gebaut zum Beispiel nicht einfach entdeckt zu werden Und in der Ukraine haben sie dann auch diese Systeme so jailbraken müssen.

00:10:19: Das heißt, Sie mussten ins operative System, ins Operating-System rein damit zum Beispiel die Drohne nicht Informationen aussendet wo denn ihr Pilot oder ihre Piloten steht wenn man natürlich nicht im Krieg ist.

00:10:32: Im kommerziellen Kontext kein Problem.

00:10:34: Das ist so das erste.

00:10:35: Man hat quasi die Drohn eingesetzt wie sie waren einfach zur Aufklärung relativ schnell und das war schon vor der Ukraine der Fall im Übrigen.

00:10:41: Hat man sich überlegt naja gut jetzt habe ich diese Drohnen da kann ich ja auch eine Waffe dran hängen eine Handgranate, irgendwie ein Explosivstoff.

00:10:48: Und oft wurden daran dann eben einfach als fliegende Bomben benutzt und die Drohne wurde halt quasi mit dem explodierenden Material in einen Ziel geflogen.

00:10:56: Und später wosen sie da nochmal anders umgebaut, dass sie zum Beispiel eben Bomben abgeworfen haben.

00:11:00: Das sind de facto alles Weiterentwicklungen von eben an sich kommerziellen Systemen.

00:11:04: es echt minimal nur verändert werden mussten, wie gesagt am wichtigsten ist eigentlich dieser Sicherheitsaspekt dass man da keine Informationen sendet die man nicht senden will.

00:11:13: Inzwischen muss man sagen baut die Ukraine und auch Russland ihre Drohnen sehr viel auch selber.

00:11:19: also das hat sich auch wandelt.

00:11:21: wir werden die Systeme jetzt angefertigt dass sie ganz besonders irgendwie sinnvoll sind militärisch gesprochen aber oft auch trotzdem weiterhin mit irgendwie kommerziellen Bauteilen sondern auch dieselben Sachen die man sich für seine eigene irgendwie Hobbydrohne kaufen könnte.

00:11:34: Vielleicht mal ganz grundsätzlich gefragt.

00:11:37: Wenn günstige und skalierbare Technologien wie Dronen immer wichtiger werden, verändert das langfristig die Rolle klassischer Großsysteme?

00:11:46: Also Panzer oder Kampfflugzeuge?

00:11:49: sind die dann noch so wichtig?

00:11:51: Ja, das ist eine... Das ist die aktuelle Debatte absolut!

00:11:54: Es gibt halt schon die Ersten, die sagen manche Kampfflugsäge brauchen wir nicht mehr.

00:11:59: Panzer obsolet also was?

00:12:01: Ich werde extrem vorsichtig.

00:12:03: Erstens, weil wenn man historisch sich das anguckt zum Beispiel vergangenen Revolutionen militärischen Angelegenheiten, vergangene militärische technologische Entwicklungen Es ist relativ selten so dass eine neue Militärtechnik kommt die eine alte komplett ersetzt und verdrängt.

00:12:21: Das gibt es als da Schießpulveraufgaben hat man irgendwie nicht mehr Weilum Bogen und Armbruß benutzt, ne?

00:12:27: Ist klar als Boote aus Stahl und nicht mehr Holz gebaut wurden, sondern Stahler in mir Holz vertrieben.

00:12:33: Also was das gibt es schon?

00:12:35: Aber ehrlich gesagt ist es häufiger so dass neue Technologien eher zusätzlich kommen.

00:12:39: Dass man das alte sehr wohl noch hat, das muss dann vielleicht nicht angeglichen werden oder verändert werden aber das alte bleibt sehr wohl auch da.

00:12:45: also das ist so.

00:12:45: das erste Und das andere kommt halt immer sehr auf den Kontext an.

00:12:49: Wir hatten ja gerade darüber gesprochen warum sind und waren Drohne der Ukraine groß.

00:12:54: Es kann auch andere Kriege in Zukunft geben, wo Drohnen da nicht so eine große Rolle spielen und eben andere Systeme.

00:12:59: Deswegen ich wäre nicht bereit zu sagen, wir haben gesehen Panzer sind irgendwie verletzlich gegen Drohne oder Drohnes sind so sinnvoll.

00:13:06: was machen wir noch mit bemannten Systemen?

00:13:07: Ich werde sehr vorsichtig aber natürlich also zumindest diese Preisfrage macht zumindest so ein Fragezeichen hinter etwas ganz Klassische.

00:13:17: Wir kaufen eine relativ begrenzte Stückzahl an sehr teuren Militärsystemen und das ist gerade sowas, was auch in der westlichen Welt und in der Westlichen Militäreindustrie sehr reflektiert wird.

00:13:28: aber ich sehe schon auch weiterhin einen Platz für solche große Systeme.

00:13:32: Aber die müssen natürlich auch angeglichen werden.

00:13:34: Die brauchen eine Verteidigung gegen Drohnen oder eben andere kommerzielle Systeme Und vielleicht noch ganz grundsätzlich Hoffen wir von den Runden weggehen, was wir auf jeden Fall sehen ist eine größere Rolle von

00:13:46: nicht

00:13:47: staatlichen Akteuren in der Kriegsführung.

00:13:49: Also die Dronenhersteller aber auch SpaceX oder Starling Satellit gestützt, die Internetkondektivität zu verfügen stellen.

00:13:58: Das ist ein privater Anbieter auch irgendwie.

00:14:01: Amazon und Google und Co haben im Krieg in der Ukraine eine Rolle gespielt was jetzt Zeibersicherheit umso angeht und das ist glaube ich eine fundamentalere Veränderung die wir jetzt langfristig sehen nicht nur in der Kriegsführung sondern generell so ein bisschen in der Power Balance zwischen Staaten und Unternehmen und es ist so ein Thema was mich untreibt.

00:14:17: dann was was ein bisschen fundamentaler ist aber da gehen wir glaube schon grundsätzlich hin.

00:14:23: Verbunden sind ja dabei eigentlich nur ein Teil der Entwicklung.

00:14:27: Sie produzieren enorme Mengen an Daten und genau hier kommt eine andere Technologie im Spiel, ich meine damit die künstliche Intelligenz.

00:14:36: Welche Rolle spielt künstlicher Intelligenze heute schon konkret in militärischen Operationen?

00:14:42: Also sie haben recht dass KI-Künstliche Intelligence so ein bisschen den Einzug gefunden hat.

00:14:50: Operation durch diesen Datenanalyse Aspekt.

00:14:53: Ich glaube, ein oder das erste Projekt was zum Beispiel in die Google mit dem Pentagon hatte also mit dem amerikanischen Verteidigungsministerium war Project Maven.

00:15:00: da ging es um die Analyse von diesen hunderttausenden Stunden Drohnenvideos die eben die amerikanische Drohne gesammelt hatten.

00:15:07: und Google hat angeboten wir lassen unsere KI drüber laufen die analysiert die Daten auf eine Art und Weise wie Menschen das gar nicht können also weder zeitlich noch noch praktisch.

00:15:15: Also dieser Datenanalyseaspekt ist ein ganz großer und der ist bis heute ein großer.

00:15:18: auch All diese Satelliten und die machen Bilder.

00:15:22: Der Computer sind viel besser darin, da sogenannte Patterns, Dinge, die immer wieder auftauchen zu sehen oder eben auch Ausnahmen und ungewöhnliche Sachen.

00:15:33: KI wird eingesetzt so ganz ... Und dann wie im zivilen Bereich für Wartung, Ersatzteilbestellungen.

00:15:42: Irgendwie wann braucht welches Flugzeug neue Ersatzteile?

00:15:44: Das nennt sich Predictive Maintenance.

00:15:46: Das ist so was das haben wir auch im zivilen Bereich.

00:15:48: Das sind natürlich auch militärischen Bereich total sinnvoll dass man Weiß wann man was braucht, aber eben auch nicht unendlich das Zeug irgendwie Vorräthigkeiten muss.

00:15:56: KI wird auch irgendwie benutzt in Personalsystemen und all sowas.

00:16:01: Also es gibt halt wahnsinnig viel KI will ich sagen, dass irgendwie so weit weg von den Frontlinien benutzt wird im Militärischen.

00:16:07: Aber das ist das worüber wir nicht so richtig viel nachdenken Sondern worum's natürlich vor allen Dingen geht auch in der Debatte Ist KI die benutzt wird wirklich für Kriegsführung wie wir uns denken.

00:16:17: Und da geht es zum Beispiel darum Ziele zu finden, zu identifizieren.

00:16:25: Also ein Ort oder auch eine Person auf Basis von hunderttausenden Datenpunkten die wir gesammelt haben und zwar eine Mischung also von Satellitendaten zum Hemimeter-Daten zu.

00:16:35: ich weiß nicht was das da quasi so in so einem Bild erstellt wird.

00:16:38: dann sagt TKI dass es möglicherweise oder mit so viel Wahrscheinlichkeit einen Frontierkämpfer feindliches Hauptquartier einer Miliz oder solche Dinge.

00:16:48: Das ist gerade zum Beispiel auch eine Diskussion im Zuge des amerikanischen israelischen Angriffs auf den Iran und auch in Zuge das israelische Angriff aus Gaza, da bei diesen Operationen wurden genau solche Systeme angeblich eingesetzt.

00:17:01: Die Systeme werden präziser gemacht mit KIA unterstützter Datenanalyse.

00:17:05: Und wir haben natürlich diese ganze Debatte von Autonomie also Systeme die immer mehr auch selber in Anführungsstrichen entscheiden können.

00:17:13: Da kommt auch eben KI zum Einsatz, damit das überhaupt möglich ist also dass eben zum Beispiel ein System weiß was es ein mögliches Ziel.

00:17:21: wie kann ich das bekämpfen?

00:17:22: Also was?

00:17:23: aber das Problem ist halt die Antwort Wie wird KI militärisch eingesetzt ist quasi nicht in einem Satz zu beantworten weil es sich durch sehr viele verschiedene Systeme zieht.

00:17:31: und was mir noch wichtig ist Ich würde ja sagen, noch sind wir noch nicht so richtig sicher was wirklich den fundamentalen Unterschied macht.

00:17:41: Wir sehen es über KI irgendwie ein bisschen überall, nicht unnäherlich wie im zivilen Leben.

00:17:45: aber das ist nur nicht so als könnten wir sagen und da hat sich jetzt etwas fundamental verändert oder es ist irgendwie massiv viel besser.

00:17:53: also Die Debatte gerade im Zuge des Angreips auf den Iran ist, dass eben sehr viele Ziele sehr schnell ausgewählt werden konnten und dann angegriffen werden konnten.

00:18:03: Gut das mag eine Rolle spielen aber genau also die eine Anwende wo man jetzt sagt es hat jetzt fundamental alles verändert das sehe ich irgendwie noch nicht so und das ist das worauf wir als Forscher ja selbst den Augenmerk haben grade

00:18:14: Jetzt aus bereitzter Stichwort der automatisierten Systeme gefallen, da würde ich gerne einsteigen.

00:18:19: Je mehr Systeme automatisiert werden, desto stärker geht es ja auch um Kontrolle.

00:18:24: Bei den Vereinten Nationen wird seit Jahren über Regeln versugenante autonome Waffensysteme diskutiert – also die gibt das ja auch im Bezug auf Atomwaffen, den Atom-Waffensperrvertrag beispielsweise.

00:18:36: Sehen Sie da so einen realen sicherheitspolitisches Risiko?

00:18:39: Also zum Beispiel durch viele Entscheidungen oder dergleichen….

00:18:43: Kurz gesagt ja, aber der Teufel liegt natürlich im Detail genau.

00:18:47: Also es geht um autonomes System, also Systeme die immer mehr alleine machen können und wir sprechen auch über letale autonome Waffensystemen.

00:18:55: Letal bedeutet da Systeme, die gegen den Menschen wie richtet sind und vollautonome waffenssystem in Systemen, die quasi so ein ganzen Entscheidungsprozess von Identifizierung eines Ziels bis zur Bekämpfung des Ziels allein durchführen können.

00:19:11: Die Definitionsdebatte ist eine riesengroße und sie hatten gesagt, bei den Vereinten Nationen wird das lange diskutiert.

00:19:16: Wir haben seit Jahrzehnteinzehn, zwanzig, vierzehn im Zuge der CCW, der Convention on Certain Conventional Weapons in Genf – ah, das ist so ein Konferenz-De facto – gibt es eine Debatte darüber ob man volle Autonomie also netale volle autonome Waffensysteme verbieten oder zumindest regulieren sollte?

00:19:34: Und wir haben sehr viel Zeit damit verbracht über Definitionen zu streiten!

00:19:38: Erstens, weil es schwierig ist.

00:19:39: Aber zweitens war es auch im politischen Interesse, manche Akteuren lange so zu tun als sei das alles nicht definierbar.

00:19:45: Es wurde da irgendwie hingezogen.

00:19:48: Sind autonome Waffensysteme ein Risiko?

00:19:50: Ich würde sagen ja!

00:19:51: Also es gibt einmal ganz grundsätzlich den technologischen Aspekt wie gut sind sie wirklich?

00:19:57: Weil wir reden schon dann über Systemen denen die Entscheidung über Leben und Tod gegeben wird und eben bewaffnet werden.

00:20:03: Und wenn die Fehler machen, ist das natürlich ein Riesenproblem.

00:20:06: Die machen nicht unbedingt Viele Fehler, sie machen teilweise auch deutlich weniger Fehler als der Mensch.

00:20:11: Aber sie machen komische Fehler.

00:20:12: Sie machen Fehler die wir als Mensch auch gar nicht irgendwie verstehen können.

00:20:16: Das ist so diese Black Box-Thematik und das ist natürlich was wo man sich überlegen muss wollen wir das bei einem bewaffneten System?

00:20:22: Das ist eine Herausforderung.

00:20:24: Die größte Herausforderung sehe ich allerdings im sicherheitspolitischen Bereich.

00:20:28: da geht es um die Gefahr von Nichtgewolter Eskalation durch gegenseitig aufeinander reagierende autonome Systeme.

00:20:37: Also wir sprechen auch von Flash Wars, das ist angelehrt an Flash Crashes im Bowsenmarkt wo eben auch Autonomensystem oder automatisierte Systeme aufeinandereagieren und da ist so die Sorge dass man quasi es passiert irgendwas.

00:20:49: also das kann irgendwie nen Zähneinsystem sein oder n tersercher Angriff und ein autonomes System reagiert darauf zum Beispiel mit dem Gegenangriff drauf reagiert wieder in autonomem System und man hat ne Waffen aus Tosche oder Krieg den so gar niemanden wollte und der vielleicht auch basierte irgendwie auf dem Fehler.

00:21:02: Also das ist so eine Gefahr, ich habe auch Sorge vor einem Rüstungswettlauf also von einem eskalatorischen Rüstung Wettlauf wo quasi alle Seiten sagen wir müssen jetzt hier aufrüsten und die müssen Autonomie ins System bringen weil der andere das macht und sonst liegen wir zurück.

00:21:14: Ein Rüstungen-Wettlauf ist nie so eine Situation die man haben will im internationalen Gefüge.

00:21:19: Das macht mir alles Sorge.

00:21:20: und nicht zuletzt und das ist ehrlich gesagt was auf internationaler Ebene die die Debatten um letale Waffensysteme eigentlich erstmal ausgelöst hat, gibt es natürlich so diese ethische und moralische Frage.

00:21:32: Ob das eigentlich okay ist?

00:21:33: Und eine gute Idee wenn man irgendwie die Entscheidungen über Leben und Tod an Maschinen, an Algorithmen delegiert.

00:21:40: Da kann sich jeder jetzt seine eigene Meinung zu bilden.

00:21:42: Ich habe sehr viel Sympathie für dieses Argument.

00:21:45: ich sage nur immer... ...ich wäre vorsichtig dass als Hauptargument gegen autonome Waffesysteme einzusetzen einfach deswegen weil das sehr schnell zu einem Ende kommt Wenn der gegenüber sagt Ich habe da aber kein moralischer Problem jetzt.

00:21:57: Also man quasi sagt, ich bin der Meinung das sollte man nicht machen weil das moralisch nicht richtig ist.

00:22:01: wenn dann die andere Seite sagt finde ich aber nicht weil funktioniert ja besser als der Mensch oder was auch immer Dann ist die Diskussion da irgendwie zu Ende und deswegen insistiere ich persönlich eher auf diesen sicherheitspolitischen Elementen.

00:22:12: Aber das moralische ist natürlich eine sehr relevante Frage.

00:22:15: KI Drohnen und Co.

00:22:17: verändern aber nicht nur militärische Operationen Sie verändern auch geopolitische Machtverhältnisse.

00:22:23: Welche Rolle spielen Droning, KI und autonome Systeme im strategischen Wettbewerb zwischen Washington und Peking aus ihrer Sicht?

00:22:33: Eine sehr große.

00:22:35: Also ich würde fast sagen dass aktuell der strategische Wett bewerben gerade zwischen den USA und China

00:22:45: sich

00:22:45: primär wirklich auf der ganz grundsätzlichen KI-Ebene vollzieht und auch durchaus auf der Zivilen.

00:22:53: Da geht es um wiederum, ist irgendwie Open AI vorne oder Tencent?

00:22:58: Oder wer auch immer?

00:22:59: also da geht's erst mal nicht primär ums Militärische aber das militärische zieht dann natürlich nach.

00:23:05: denn wie gesagt es schwebt auch immer so ein bisschen die Überlegung mit naja wenn der Gegner irgendwie KI unterstütztes System hat gerade KI unterstützte autonome Systeme dann brauchen wir sie auch.

00:23:14: ich fürchte bewegen uns auch zunehmend hin.

00:23:17: Aktuell, würde ich sagen ist der Wettbewerb vor allen Dingen eigentlich in diesem Bereich grundsätzliche KI-Entwicklung.

00:23:26: In jeglichem Kontext.

00:23:30: Wenn man diesen Zettbewerk jetzt achtet stellt sich automatisch eine Weiterdruftfrage im Wo steht eigentlich Europa?

00:23:39: Ja leider also bei dieser allgemeinen KI Entwicklung nicht so gut wie wir es gerne hätten.

00:23:44: Also es gibt so Nischen und Wir sagen halt immer, wir haben die gut ausgebildeten Leute und tatsächlich viele so der Trob irgendwie KI Entwickler sind auch durchaus aus Europa.

00:23:53: Nur oft landen sie dann irgendwie in den USA oder bei den großen amerikanischen Konzernen.

00:23:57: also wir haben immer so das Problem wissenschaftliche Exzellenz und Expertise zu übersetzen in wirtschaftliche Denn da waren natürlich ganz klar die USA, die Nase vorn.

00:24:11: Wir wissen alle irgendwo in den letzten Jahren so die KI-Durchbrüche herkamen und es war eben vor allen Dingen die USA und dann irgendwie ein bisschen auch China.

00:24:19: Insofern ja, da tun wir uns schwer, das gibt verschiedene Gründe warum dem so ist aber das ist auf jeden Fall ein Problem.

00:24:25: Wir haben ja eine Zeit lang quasi versucht zu sagen wie sind vielleicht nicht die KI Entwickler sondern dann die KI Regulierer, wir sind die, die quasi sich die guten Regeln dafür ausdenken.

00:24:37: Das wurde immer sehr kritisiert nach dem Motto okay ihr könnt es nicht bauen, ihr könnt das regulieren.

00:24:41: Das mag ein bisschen absurd klingen.

00:24:42: ich habe da durchaus sympathief für den Ansatz als dass so eine Regulierung durchaus schon nötig ist und Europa da tatsächlich einigermaßen irgendwie gut dasteht.

00:24:51: aber es funktioniert halt eben nur bis zum Gerissen gewissen gerade wenn man sich selber entwickelt.

00:24:54: also der Vorwurf stimmt halt schauen dann man irgendwie ist nicht selber entwickelt zu denken man könnte da die Regeln festsetzen is a priori erst mal schwierig.

00:25:00: insofern Ja, also ich befürchte zum Gewissen gerade sind wir da halt leider etwas hinterher.

00:25:06: Es gibt viele Versuche das jetzt zu ändern.

00:25:09: Also ich sitze ja hier z.B in Paris und ich glaube es war wirklich heute Morgen wo dann quasi die Nachricht kam.

00:25:14: Jan Le Kuen.

00:25:15: Das ist ja ein sehr bekannter KI-Forscher, war lange bei Facebook Meter so da irgendwie der HauptKI Chef und Entwickler und er hat jetzt hier gerade eine neue Firma aufgemacht mit Sitz in Paris aber auch Singapur, Moral und noch irgendwo.

00:25:30: Die jetzt gerade schon mit drei Milliarden irgendwie dotiert ist... ...und da geht es darum eine neue Art von KI zu entwickeln, die eben weggeht von diesen LLMs, diesen large language models.

00:25:39: Also diesen Chatbots, die wir quasi gerade haben, weil er sagt okay das ist jetzt so weit gegangen wie es ümig ging.. ..und wir müssen jetzt einen anderen Ansatz finden!

00:25:46: Und genau, dass ist jetzt quasi in Europa.

00:25:48: Es gibt andere Versuche das zu machen?

00:25:50: Vielleicht ist das jetzt gerade der Moment dafür als das... Ja, es ist eine Bereitschaft gibt in Europa sehr viel mehr selber zu machen.

00:25:56: Die militärische KI treibt natürlich jetzt auch gewisse Entwicklungen.

00:25:59: also wir haben jetzt eben so genannte Einhörner also Start-ups die mit über einer Milliarde valorisiert sind im militärischen KI Bereich in Europa und das kann natürlich auch die Entwicklung treiben.

00:26:11: ich hoffe dass sich da gerade ein bisschen was ändert aber ja es bleibt leider dabei.

00:26:16: so richtig.

00:26:16: führendes sind da momentan vor allen Dingen die amerikanischen Firmen, wie gesagt viel privat Bereich und die Chinesischen.

00:26:24: Lassen Sie uns zum Schluss nach dem Blick nach vorne richten!

00:26:28: Wenn man die aktuellen Entwicklungen zusammennimmt – KI-gestürzte Analyse, autonome Systeme – dann könnte sich Kriegsführung in den kommenden Jahrzehnten stark verändern.

00:26:38: Im Kalten Krieg beispielsweise wird Rote die Stabilität vor allem ja auf nukleater Abstreikungen.

00:26:44: Wir haben jetzt eben auch schon mal das Durchwort gehört Wettrüsten.

00:26:47: Wie könnte Abschreckung in einer Welt aussehen, in der KI und autonome Systeme eine immer größere Rolle spielen?

00:26:54: Also gibt es da dann ein technologisches Wettbrüsten?

00:26:58: Ja also wie die Abschreckungen aussehen soll weiß ich tatsächlich nicht.

00:27:02: Und ich mache mir auch tatsächlich etwas Sorgen um die nukleare Abschröcke um.

00:27:07: Es ist nicht weil die Nukleäre abschreckend so toll ist.

00:27:09: Es gibt genug daran zu gratisieren aber das ist eben schon in der Tat sehr angesprochen so ein bisschen das System auf dem Unsere Sicherheitsarchitektur zum Gewissen gerade aufbaut mit all seinen Fehlern.

00:27:19: Und wir haben so ein bisschen die Sorge, dass sich technologische Entwicklung grade von KI aber auch sensorik und ähnlichen dazu führen könnte das die sogenannte nukleare Zweitschlagsfähigkeit insbesondere die U-Boot gestützte nicht mehr so gegeben sein könnte.

00:27:33: also ohne das zu lang machen zu wollen mehrere Länder z. B. Großbritannien in Brandreich nukleare Zweitschlagsfähigkeit auf U-Booten.

00:27:41: Das soll heißen, selbst wenn irgendwie Paris oder London oder was auch immer zerstört ist gibt es noch die nuklearbestückten U-Bote, die dann eben Atomwaffe schicken können.

00:27:49: und das ist so die Absicherung überhaupt erst mal gegen einen Schlag auf Paris und London.

00:27:54: Das Problem ist wir haben Sorge dass mit KI und bessere Sensorik mittelfristig die Ozeane transparent werden könnten und solche U-boote eben gefunden werden könnten gleichzeitig ausgeschaltet werden könnten mit dem Angriff auf Paris und London.

00:28:06: Und dann war es das mit der nuklearen Zweiteschlagsfähigkeit, und dann war's das eben auch mit den nuklearen Balance wie wir sie kennen.

00:28:13: Wie gesagt man muss die nicht mögen aber man muss schon feststellen dass sie dann doch irgendwie in den letzten Jahrzehnten eine gewisse Stabilität garantiert hat.

00:28:20: also das ist so.

00:28:20: die erste Gefahr es macht quasi die Balance die wir bisher hatten vielleicht so nicht.

00:28:24: kann Es ne neue Balance geben oder Neuerart der Abschreckung Mit Den neuen System?

00:28:29: Vielleicht Wahrscheinlich Aber ich Muss zugeben weiß noch nicht, wie sie aussieht.

00:28:32: Und gerade ich würde schon sagen wir sind momentan so in der Phase von Entwicklung dass wir einfach eine großen Phase von Unsicherheit sind.

00:28:38: Wir wissen nicht wo die technologische Entwicklung hingeht?

00:28:41: Wie gesagt sehen wir im Zivilen So Sind LLMs irgendwie der Weisheit des letzten Schluss oder ist es was anderes?

00:28:46: Dann wissen wir nicht in welchem militärischen Bereich das die größte Rolle spielen wird.

00:28:51: Ich hatte es gesagt im Blick auf die Ukraine Wir haben verschiedene Einsätze von KI in der Kriegsführung aber noch nix.

00:28:55: jetzt würde ich sagen ich fundamentale Neues Und da gibt's immer noch die Frage von, wie wird das eingesetzt?

00:29:01: Also Doktrinär und so.

00:29:03: Da ist einfach nur viel Unsicherheit drin, dass es sehr schwierig ist, das vorauszusehen.

00:29:08: Das macht es natürlich auch schwerer als zu investieren und Tipps zu geben was man jetzt kaufen sollte als Verteidigungsministerium.

00:29:15: Es ist sehr viel im Fluster aktuell insofern ich hab persönlich noch kein Modell eines neuen stabilen Abschreckungssystem oder Sicherheitsarchitektur auf Basis der neuen Technologien.

00:29:27: Dadon liegt für Adropa wahrscheinlich auch eine der größten Sicherheitspolitischen Herausforderungen.

00:29:33: Auf.

00:29:33: Danke, vielen Dank fürs Gespräch!

00:29:36: Sehr gerne!

00:29:39: Das war ein weiterer Folge von Auslands Info Spotlight dem Außenpolitik-Podcast der Konvert-Adenauer-Stiftung.

00:29:46: Und Richard Branke und ich haben am heutigen Dienstag den zehnten März miteinander gesprochen.

00:29:51: Vielen Dank fürs Zuhören – bis zum nächsten Mal.