Wenn die KI nebenbei einen Krieg auslöst

Ein chinesisches Handelsschiff, eingestuft als Lieferant von Atomwaffenteilen. Ein militärischer Angriff, bereits in Vorbereitung. Und eine Fehleinschätzung, die erst in letzter Minute auffällt, weil ein Mensch genauer hinsieht. Was nach einem schlechten Drehbuch klingt, ist im US-Verteidigungsministerium tatsächlich passiert. In seinem Fachbeitrag auf Defence Network zeigt Heiko Beier, warum das kein Zufall war und sich jederzeit wiederholen kann.

Das Problem liegt in der Architektur. Generative KI auf LLM-Basis schließt Informationslücken mit Annahmen, die plausibel klingen, aber nie überprüft wurden. Sie kennzeichnet diese Annahmen nicht einmal. Am Ende steht eine glatte, überzeugende Lageeinschätzung, die auf Sand gebaut sein kann. Der Krisenstab sieht nur das Ergebnis und kann zustimmen oder ablehnen. Welche Quellen eingeflossen sind, wie sie gewichtet wurden und wo sie sich widersprechen, bleibt verborgen. Der Mensch im Entscheidungsprozess hat dann nur noch eine Alibifunktion.

Beier hält dagegen: Entscheidend ist eine KI, die ihre Herleitung offenlegt. Bei datengetriebener Reasoning-Orchestrierung bewerten einzelne Skill-Module jede Quelle für sich, eine übergeordnete Instanz führt die Ergebnisse nach einer festgelegten fachlichen Logik zusammen. Jeder Zwischenschritt lässt sich prüfen und korrigieren. Ein Konflikt-Score macht sichtbar, wie widersprüchlich die Datenlage ist, und zeigt damit genau die Stellen, an denen menschliches Urteil gefragt ist. Das gilt für militärische Lagebilder ebenso wie für Risikobewertung, Business Continuity Management oder Compliance-Prüfung.

Dahinter steht eine grundsätzliche Frage: Wer bestimmt eigentlich, wie aus den eigenen Daten Entscheidungen entstehen? Beier nennt die Antwort kognitive Souveränität. Wer sie nicht hat, kontrolliert seine KI nicht, sondern unterschreibt nur, was sie vorlegt.