Gefährlicher als Atomwaffen

Buchbesprechung: Künstliche Intelligenz und Krieg

von Sascha Tobias von Hirschfeld

„Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert?“ fragt Karl Hans Bläsius im Untertitel seines neuen Buchs. Darin geht es nicht nur um die Risiken durch (KI) Künstlicher Intelligenz im Allgemeinen. Vielmehr analysiert der Autor sehr strukturiert und leicht verständlich die existenzbedrohende Seite von KI in der modernen Kriegsführung.

Karl Hans Bläsius, Hochschullehrer i.R. und streitbarer Atomwaffengegner, weiß, wovon er spricht, denn anders als viele der selbsternannten KI-Expert*innen, die heute die medialen Diskurse bestimmen, beschäftigt er sich schon seit den frühen 1980er Jahren wissenschaftlich mit KI. Promoviert hat Bläsius 1986 zum Thema „Automatisches Beweisen“, also über komplexe Herausforderungen, die KI-gestützte Systeme auch heute noch an ihre Grenzen bringen und zudem grundsätzliche, ethische Fragen aufwerfen, denn wer oder was entscheidet beispielsweise im Einzelfall, was ein militärisches Ziel ist?

„Die aktuellen Erfolge der KI können dazu führen, dass solchen Systemen […] zu sehr vertraut wird“, mahnt Bläsius (S. 51). Und Hand aufs Herz: Wer von uns hat nicht schon einmal Antworten oder Texte, die Generative KI wie etwa ChatGPT sehr souverän auswirft, ungeprüft übernommen? Dem blinden Vertrauen in diese Technologie will der Autor mit seinem Buch entgegenwirken und Menschen befähigen, eine kritische Haltung gegenüber den oft überzogenen Versprechungen der KI-Industrie zu entwickeln: „Diesen Vorzügen stehen auch erhebliche Risiken gegenüber.” (S. 53)

Der Analyse wesentlicher Risiken von Künstlicher Intelligenz im zivilen als auch militärischen Bereich widmet der Autor den größten Teil seines Buchs, was durchaus Sinn macht, will man die Kehrseite der schillernden Erfolgsgeschichten verstehen. Angefangen bei Risiken und Auswirkungen von KI, die heute beispielsweise in sozialen Medien zu beobachten sind - Desinformation, Manipulation, Informationsflut etc. - über Cyberangriffe bis hin zu spekulativen, aber schwer kalkulierbaren Risiken einer möglichen Superintelligenz mit dem Potenzial, sich jeglicher menschlicher Kontrolle zu entziehen.

Den Schwerpunkt seiner Risikoanalyse legt Bläsius auf die Gefahr eines „Atomkriegs aus Versehen”, die wegen der enormen Tragweite von Fehlentscheidungen in einem atomaren Ernstfall evident ist. Hier verortet der Autor das Risiko insbesondere in KI-gestützten Frühwarnsystemen, die trotz ihrer Fähigkeit große Datenmengen quasi in Echtzeit zu verarbeiten Fehlalarme auslösen können - denn „die Daten, die solchen Systemen zugrunde liegen [sind] vage, unsicher und unvollständig” (S. 170). Darüber hinaus ist nicht auszuschließen, dass KI-Frühwarnsysteme Ziele von Cyberangriffen werden können.

„Automatische Entscheidungen können von Menschen in der verfügbaren Zeit nicht in hinreichendem Maße überprüft werden.” (ebd.) Offen bleibt, ob Menschen oder Maschinen in kritischen Situationen die besseren Entscheidungen treffen, da dies im Einzelfall von vielen Faktoren abhängt. Folgerichtig stellt der Autor grundsätzlich in Frage, ob „das Überleben der gesamten Menschheit von der Entscheidung eines einzelnen Menschen oder sogar von einer Maschine abhängen kann” und gibt zu Recht zu bedenken, dass eine sichere Entscheidung auf unsicheren Daten weder für Menschen noch für Maschinen möglich ist.

Zu einer ähnlichen Risikoeinschätzung gelangt Bläsius hinsichtlich autonomer Waffensystemen, die mithilfe von KI-gestützter Sensorik in der Lage sind, Ziele automatisch zu erkennen und anzugreifen. Auch hier besteht die Gefahr, dass sich maschinelle Entscheidungen der menschlichen Kontrolle über kurz oder lang komplett entziehen, wie dies heute schon bei sogenannten Out-of-the-Loop-Systemen der Fall ist. Nicht ohne Grund fordern zahlreiche Organisationen ein Verbot von autonomen Waffensystemen.

Abschließend behandelt der Autor in seinem Buch existenzielle Risiken durch KI, die neben Massenvernichtungswaffen insbesondere von Umweltbelastungen und dem Klimawandel sowie der möglichen Entwicklung einer Superintelligenz ausgehen. Letztere könnte für Menschen vielleicht sogar noch gefährlicher sein als Atomwaffen, so die These. Hier sieht der Autor dringenden Aufklärungsbedarf: „.Das Bewusstsein für solche existenziellen Risiken ist in der Bevölkerung und vermutlich auch in der Politik sehr gering.” (S. 233)

Gegenüber der umfassenden und tiefgründigen Analyse der Risiken durch KI bleibt das letzte Kapitel zu möglichen Maßnahmen zur Risikoreduzierung recht knapp und oberflächlich - das mag zum Teil daran liegen, dass Bläsius angesichts des aktuellen Rüstungswettlaufs wenig Anlass für Optimismus sieht: „Es könnte also sein, dass keine Lösung für das Überleben der Menschheit gefunden oder gewählt wird.” Hoffen wir, dass es anders kommt.

Karl Hans Bläsius (2026): Künstliche Intelligenz und Krieg. Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert? Springer, 276 S., ISBN: 9783662725252, 24,99 €