Maschinenträume 3: KI = Künstliche Ignoranz? - Golem.de

Posted on in technology

Skalierung wird alle Probleme lösen, sagen KI-Fans. Aber: Theoretische Grenzen haben praktische Konsequenzen. Und praktische Grenzen haben reale Konsequenzen. Und am Ende hat die Realität sowieso immer Recht.

12. Juli 2026 um 07:30 Uhr / Ein Deep Dive von P. R. Rhesia

Sie wissen nicht, was sie tun. (Bild: System76, GPLv3 via Wikimedia Commons)

Sie wissen nicht, was sie tun. Bild: System76, GPLv3 via Wikimedia Commons / GNU Free Documentation License
Inhalt
  1. Maschinenträume 3: KI = Künstliche Ignoranz?
  2. KI = Keine Intelligenz?
  3. KI = Klare Ineffizienz
  4. KI = Kniffliger Irrgarten
  5. KI = Krasse Investitionen
  6. KI = Kwatsch Inklusive

In der zweiten Folge der Maschinenträume haben wir wirklich dicke Bretter gebohrt. Ab jetzt wird es einfacher. Ich werde zwar immer noch ein bisschen theoretisches Fundament legen, bin aber zuversichtlich, gut verständliche Analogien aus dem Alltag mitliefern zu können.

Wir hatten mit den Mitteln der Theoretischen Informatik untersucht, welche Mächtigkeit Künstliche neuronale Netze (KNN) besitzen. Da uns besonders die generativen Large Language Models (LLMs) als die von KI-Apologeten angepriesene Quelle der Emergenz einer Artificial General Intelligence (AGI) – einer (über)menschlichen Intelligenz – interessieren, haben wir bewusst auch typische LLM-Architekturen untersucht: die Kombination von KNN mit Gated Recurrent Units (GRUs), Long Short Term Memory (LSTM), Transformern oder Chain-of-Thought (CoT).

Die ernüchternde Erkenntnis: Die technische Grundlage der aktuellen generativen KI ist weit unterhalb der Mächtigkeit der Turing-Maschine zu verorten – und weit unterhalb des menschlichen Verstandes. Die technischen Grundlagen aktueller LLMs spielen in der Liga "endliche Automaten", salopp formuliert: extrem aufgeblasene Waschmaschinen. Auf dieser technischen Basis wird es keine Emergenz einer AGI geben.

Wie kann ich so etwas behaupten, wenn aktuelle generative KI offensichtlich beeindruckende Intelligenzleistungen erbringt?

1. Ich habe Beweise geliefert, statt nur zu behaupten: theoretische = mathematische Beweise. Mathematische Beweise haben erstaunliche Eigenschaften: Sie gelten von Ewigkeit zu Ewigkeit, unabhängig von uns. Gelten die Vorbedingungen, gelten die Schlussfolgerungen – unabhängig davon, ob der Beweis schon entdeckt wurde, ob jemand den Beweis versteht, ob jemand den Beweis glaubt oder daran zweifelt.

2. Den scheinbaren Widerspruch zwischen Schein und Sein, Fiktion und Fakt, Wunsch und Wirklichkeit werde ich auflösen und erklären.

KI = Kecke Imitation?

Die Beurteilung der tatsächlichen Eigenleistung aktueller generativer KI ist schwierig, weil es im Prinzip unscharfe Datenbanken sind, in die die gesamte im Internet zugängliche menschliche Leistung eingespeichert wurde. Mehr oder weniger clevere, menschliche Kuratierung und Gewichtung bestimmen, wie viel menschliche Intelligenz und wie viel menschliche Ignoranz in den Antworten letztlich enthalten sind.

Das durchschnittliche Niveau von Material im Internet ist suboptimal. Um mehr als künstliche Ignoranz zu erhalten, müssen Menschen gezielt und bewusst hochwertigen Input in das System einbringen. Dieses Kuratieren ist inzwischen gängige Praxis.

Generative LLMs werden auch als stochastische Papageien bezeichnet. Der Begriff soll verdeutlichen, dass die LLMs nur – ohne inhaltliches Verständnis – die innerhalb ihres Lernkorpus wahrscheinlichste Fortsetzung des Prompts generieren. Der Begriff ist eingängig und nicht schlecht gewählt, auch wenn er echten Papageien wahrscheinlich Unrecht tut. Mir kommt in diesem Bild ein wichtiger Aspekt zu kurz. Deswegen will ich hier einen eigenen Vergleich anstellen.

Wir alle kennen vielleicht noch aus der Schule diejenigen, die sich Hausaufgaben durch Betteln, Drohen oder Entwenden aus den geistigen Leistungen anderer zusammenstückelten: komplett oder als Konglomerat mit mehr oder weniger passenden Übergängen. Früh übt sich, was später ein Plagiator werden will, wie es in akademischen Kreisen heißt. Natürlich sind als Vorlage eher die Hausaufgaben derer begehrt, die überdurchschnittliche Qualität liefern.

Die bizarrste Anekdote, die ich diesbezüglich erlebte: Mir waren, mal wieder, in der ersten Stunde meine Hausaufgabenhefte entwendet worden. Die kamen immer rechtzeitig wieder, man will die Kuh ja nur melken und nicht schlachten. Zur 6. Stunde, Deutsch, war mein Deutschheft aber immer noch nicht zurück und der Deutschlehrer rief, mit sichtlich schelmisch-diabolischer Freude, nacheinander sieben Mitschüler auf, ihren Aufsatz vorzulesen.

Nachdem ich meinen Aufsatz zum siebten Mal gehört hatte, die letzten vier Male immerhin mit verzweifelten Versuchen der improvisierten Variation – die Mitschüler mit den roten Köpfen sprachen von höherer Temperatur (siehe unten) -, wurde ich aufgerufen. Das sah ich seit der zweiten Wiederholung kommen und hatte mich mental vorbereitet.

Ich schlug ein ähnliches Heft auf wie das Deutschheft und trug aus dem Stegreif einen ganz anderen Aufsatz vor. Der Lehrer meinte am Ende süffisant: "Sehr schön. Viel besser als der Aufsatz, den wir uns siebenmal anhören mussten – du hast nur vergessen, oft genug umzublättern."

Schmarotzer, die mit Imitation und Interpolation fremder Leistungen blenden, glänzen und sich profilieren wollen, hatten an meiner Schule kein leichtes Spiel.

Generative LLMs sind letztlich genau solche Schmarotzer: künstliche Interpolation von Antworten auf der Basis der via Internet frei zugänglichen menschlichen Leistungen zur Imitation menschlicher Intelligenz.