D01_Warum KI Komplexität nicht löst — der große Denkfehler

Mit genug Daten wird das Komplexe berechenbar — dieses Versprechen hört man überall. Es beruht auf einer Verwechslung im Fundament: der zwischen kompliziert und komplex.

Fatih Aydemir · KI aus Sicht der Systemtheorie (1/3) · Essay

Das Versprechen und der Denkfehler

Es gibt ein Versprechen, das man derzeit überall hört, mal laut, mal leise: Mit genug Daten und einer mächtigen genug künstlichen Intelligenz bekommen wir endlich das in den Griff, was uns bisher entglitten ist — die Märkte, das Klima, die Organisationen, die Gesellschaft. Endlich, so die Hoffnung, wird das Komplexe berechenbar. Dieses Versprechen ist ein Denkfehler. Kein kleiner, sondern einer mit einer grundlegenden Verwechslung im Fundament. Und um zu sehen, warum, muss man nur zwei Wörter sauber auseinanderhalten, die ständig vermengt werden: kompliziert und komplex.

Im Kern ist eine KI eine außerordentlich mächtige Mustererkennungs-Maschine. Sie bekommt riesige Mengen vergangener Daten, findet darin Regelmäßigkeiten und schreibt sie fort. Das ist eine gewaltige Fähigkeit — überall dort, wo die Welt stabil ist und die Muster von gestern auch morgen noch gelten. Aber zwei Dinge sind entscheidend und werden gern überhört. Erstens: Ein Muster zu erkennen ist nicht dasselbe, wie den Mechanismus zu verstehen, der es erzeugt. Und zweitens: Was eine KI gelernt hat, ist immer die Vergangenheit. An genau diesen beiden Punkten zerbricht das Versprechen.

Wo KI glänzt — und warum das nichts beweist

Wo glänzt eine KI? Dort, wo ein Problem kompliziert ist, aber nicht komplex — wo es also viele Teile und riesige Zahlenräume gibt, das Verhalten aber festen Regeln folgt und sich nicht gegen einen wehrt. Eine KI hat das Go-Spiel gemeistert, an dem Menschen sich Jahrtausende die Zähne ausbissen. Aber Go war nie komplex; es war nur astronomisch kompliziert — ein geschlossenes Spiel mit festen Regeln, dessen bester Zug im Prinzip feststeht. Dasselbe gilt für die Vorhersage, wie sich ein Eiweißmolekül faltet: schwer, aber stabil, regelhaft, geduldig. Hier ist die KI in ihrem Element. Ihr Sieg über das Komplizierte ist real und beeindruckend. Nur sagt er nichts über das Komplexe.

Ist KI nicht selbst komplex geworden?

Hier kommt sofort ein Einwand, und er ist berechtigt: Ist die moderne KI nicht selbst komplex geworden? Zeigt sie nicht emergente Fähigkeiten, die niemand vorhergesehen hat? Um das zu beantworten, muss man „die KI" auseinandernehmen, denn sie ist nicht ein Ding, sondern mehrere. Das trainierte Modell selbst, das im Betrieb eine Antwort erzeugt, ist ableitbar bis auf die letzte Stelle. Eine Eingabe läuft durch eine feste Kette von Rechenschritten und wird zu einer Ausgabe — gigantisch in der Zahl der Parameter, aber in jedem Schritt nachrechenbar, deterministisch, geschlossen. Wie Schach: astronomisch groß und trotzdem nur kompliziert. Nichtlinearität steckt darin, gewiss, aber Nichtlinearität allein macht nichts komplex, solange das Verhalten aus den Teilen folgt.

Und die vielzitierten emergenten Fähigkeiten, die bei wachsender Größe plötzlich auftauchen? Hier lohnt sich genau die Unterscheidung, die wir schon kennen: Etwas ist nicht deshalb emergent, weil es uns überrascht. Eine Untersuchung von 2023 mit dem treffenden Titel „Are Emergent Abilities a Mirage?" hat gezeigt, dass viele dieser scheinbaren Sprünge verschwinden, sobald man anders misst — sie waren ein Artefakt der Messlatte, kein echter Bruch. Und selbst wo eine Fähigkeit wirklich neu ist: Sie folgt aus Daten, Architektur und Training, sie war nur nicht vorhersagbar. Das ist genau die Falle aus dieser Reihe — nicht vorhersagbar heißt nicht nicht-ableitbar. Epistemische Überraschung ist nicht ontologische Emergenz — diese Unterscheidung trägt den ganzen Text. Das Modell bleibt, bei allem Staunen, ein kompliziertes Ding.

Wo die Komplexität wirklich sitzt

Komplex wird die Sache an einer einzigen Stelle, und die liegt nicht im Modell. Sie liegt dort, wo die KI auf die Welt trifft und die Welt zurückwirkt: Millionen Menschen richten ihr Verhalten an den Ausgaben der Maschine aus, und die Maschine wird wieder auf dem veränderten Verhalten trainiert. Erst diese Rückkopplung zwischen Mensch und Modell ist ein echtes komplexes System — adaptiv, driftend, kipppunktfähig. Die Komplexität sitzt nicht in der KI. Sie sitzt in ihrer Kopplung mit uns. Im dritten Teil dieser Reihe kommen wir genau hierauf zurück.

Ein Gegner, der die Regeln ändert

Und dieses komplexe Gegenüber hat eine Eigenschaft, an der jede Mustererkennung scheitern muss: Es ändert seine eigenen Regeln. Ein Markt, eine Gesellschaft, eine Organisation ist lebendig und reagiert — auch auf die Modelle, die man über sie baut. Findet eine KI ein verlässliches Muster im Markt und handelt danach, verschwindet genau dieses Muster, weil alle es ausnutzen. Macht man eine Kennzahl zum Ziel, hört sie auf, ein gutes Maß zu sein. Das Komplexe ist kein ruhender Gegenstand, der darauf wartet, vermessen zu werden; es bewegt sich, während man es vermisst, und oft gerade deshalb. Die KI lernt die Welt von gestern — und das Komplexe ist die Welt, die morgen eine andere ist.

Blind an den Wendepunkten

Und es kommt schlimmer. Komplexe Systeme driften nicht nur, sie kippen — sie schlagen plötzlich in Zustände um, die es vorher nie gab. Eine Mustererkennung, die auf der Welt vor dem Sprung trainiert ist, hat über die Welt nach dem Sprung keine einzige Beobachtung. Sie ist genau dort am blindesten, wo es am meisten darauf ankäme: an den seltenen, alles verändernden Wendepunkten. Die KI sieht den Crash, den Umbruch, den Bruch nicht kommen — nicht aus Schwäche, sondern aus Prinzip, weil das, was kommt, in den Daten der Vergangenheit nicht vorkommt. Das ist der härteste Punkt von allen.

Die Karte im großen Stil

Dazu kommt ein dritter, leiser Einwand. Damit eine KI etwas lernen kann, muss die Welt zu Daten werden — sie muss gemessen werden. Aber messen heißt, eine Grenze ziehen und entscheiden, was zählt: Es ist Modellbildung, mit allem, was dazugehört, samt blindem Fleck. Und ausgerechnet das Wichtigste an komplexen Systemen — Vertrauen, Beziehung, Bedeutung, all das Schwer- oder Nichtmessbare — fällt durch dieses Raster. Was nicht in den Daten ist, kann die KI nie sehen. Sie entkommt dem alten Problem nicht, dass die Landkarte nie das Gebiet ist. Sie betreibt es nur im großen Stil. Mehr Daten sind noch immer eine Karte, nie das Land.

Die Decke wird höher, nicht abgeschafft

Und über allem steht ein Gesetz, das keine Rechenleistung aushebelt. Wer ein System beherrschen will, braucht mindestens dessen Varietät — dessen ganze Vielfalt möglicher Zustände. Die Varietät eines lebendigen, komplexen Systems ist praktisch unbegrenzt. Eine KI vergrößert unsere eigene Varietät enorm, gewiss — aber „enorm" ist immer noch endlich gegen das Offene. Sie hebt die Decke höher, unter der wir ein System beantworten können. Die Decke selbst schafft sie nicht ab.

Begleiten, nicht lösen

Damit lässt sich der Denkfehler genau benennen. Er besteht darin, das Komplexe für bloß sehr Kompliziertes zu halten — für ein Problem, dem nur noch genug Daten und Rechenkraft fehlen. Das Komplizierte lässt sich mit mehr Rechenkraft tatsächlich lösen; dort wird die KI weiter Wunder vollbringen. Aber das Komplexe ist keine Frage der Rechenkraft. Es ist eine andere Art von Ding — nicht ungelöst, sondern unlösbar in dem Sinn, in dem man eine Gleichung löst. Es wartet nicht darauf, geknackt zu werden. Mehr Daten lösen das Komplizierte. Sie lösen das Komplexe nicht auf.

Das heißt nicht, dass KI gegenüber komplexen Systemen nutzlos wäre — im Gegenteil. Sie kann ein schärferes Auge sein, ein schnellerer Beantworter, ein Werkzeug, das uns klüger mit dem Unkontrollierbaren umgehen lässt. Aber genau da liegt die Grenze: umgehen, nicht beherrschen; begleiten, nicht lösen. Wer KI als die Maschine verkauft, die uns endlich Herr über das Komplexe macht, hat das Komplexe nicht verstanden. Und wer den Unterschied zwischen kompliziert und komplex einmal scharf sieht, durchschaut nicht nur dieses eine Versprechen — sondern die halben Heilsversprechen unserer Zeit.