Es rät das nächste Wort

Donnerstag, 21:40 Uhr. Du tippst: "Schreib mir einen Einstieg für eine Stunde zur Französischen Revolution, Klasse 8." Drei Sekunden später steht da ein Text. Flüssig, mit einer Leitfrage, die du so ähnlich selbst gestellt hättest. Und irgendwo im Hinterkopf die Frage: Woher weiß das Ding das?

Die kurze Antwort: Es weiß es nicht. Es rät. Sehr gut und sehr schnell, aber es rät.

Wie Computer bisher gearbeitet haben

Der Taschenrechner, das Notenprogramm, der Vertretungsplan: Alles, was du bisher am Computer benutzt hast, folgt Regeln, die ein Mensch vorher aufgeschrieben hat. Wenn A, dann B. 2 + 2 ergibt immer 4, weil jemand die Rechenregel programmiert hat. Der Computer kann nichts, was ihm nicht buchstäblich vorgeschrieben wurde. Darum ist er so verlässlich und so dumm zugleich.

Wie ein Sprachmodell arbeitet

Ein Sprachmodell wie ChatGPT, Claude oder Gemini hat keine Regel für die Französische Revolution. Niemand hat ihm beigebracht, was ein Stundeneinstieg ist. Stattdessen hat es Milliarden von Texten gelesen: Bücher, Webseiten, Foren, Lehrbücher, Unterrichtsentwürfe, die irgendwer irgendwann online gestellt hat. Aus all dem hat es ein einziges Talent entwickelt: Es kann vorhersagen, welches Wort als nächstes wahrscheinlich kommt.

Mehr nicht. Du gibst ihm "Die Französische Revolution begann im Jahr" und es sagt sich: "1789" ist mit großem Abstand das wahrscheinlichste nächste Wort. Es hängt "1789" an und fragt sich: Was kommt jetzt? Und so weiter, Wort für Wort, bis ein ganzer Text steht.

Du kennst das Prinzip von deiner Handy-Tastatur. Die drei Wortvorschläge über den Tasten machen genau dasselbe, nur mit dem Gedächtnis von zwei Wörtern. Ein Sprachmodell macht es mit dem Gedächtnis einer Bibliothek.

Dass dabei etwas herauskommt, das wie Verstehen aussieht, liegt daran, dass Muster in Sprache sehr tief gehen. Wer gut genug vorhersagen kann, wie ein Historiker weiterschreibt, schreibt am Ende wie ein Historiker. Ohne je einen Gedanken über die Revolution gehabt zu haben.

Warum das der wichtigste Satz dieser Fortbildung ist

Weil alles andere daraus folgt.

• Es ist gut in Form, nicht in Wahrheit. Es weiß, wie ein richtiger Satz aussieht. Ob er stimmt, ist eine andere Frage, die es sich nicht stellt.
• Von sich aus kann es weder zählen noch nachschlagen. Zählen ist eine Regel, und es hat keine Regeln. Nachschlagen braucht ein Archiv, und eingebaut hat es keins, nur Erinnerung an Muster. Beides geht erst mit Hilfswerkzeugen, die man ihm dazugibt. Mehr dazu in Lektion 3.
• Es schreibt das Wahrscheinliche. Und das Wahrscheinliche ist der Durchschnitt. Deine Stimme ist nicht der Durchschnitt.
• Es ist nie zweimal gleich. Raten hat Zufall drin.

Jeder dieser vier Sätze bekommt eine eigene Lektion. Heute reicht es, wenn du den ersten mitnimmst.