Teil 2 der Reihe „KI verstehen“. In Teil 1 ging es darum, woher KI kommt. Jetzt schauen wir unter die Haube: Was passiert eigentlich, wenn ChatGPT (OpenAI), Claude (Anthropic) oder Microsoft Copilot eine Antwort schreibt? Keine Formeln, versprochen.
Die kürzeste ehrliche Erklärung lautet: Ein Sprachmodell rechnet aus, welches Wort als Nächstes am besten passt. Dann das nächste. Und das nächste. Klingt banal — ist aber der Schlüssel, um zu verstehen, warum diese Systeme so beeindruckend sind und warum sie trotzdem Fehler machen.
Das Grundprinzip: das nächste Wort
Du kennst die Wortvorschläge auf dem Smartphone. Du tippst „Ich komme heute etwas“, und das Handy schlägt „später“ vor. Ein großes Sprachmodell macht im Kern dasselbe — nur mit einem ungleich größeren Gedächtnis für Sprache und mit Blick auf den ganzen bisherigen Text, nicht nur auf die letzten zwei Wörter.
Genau genommen arbeitet das Modell nicht mit ganzen Wörtern, sondern mit sogenannten Tokens: Wortteilen, Silben oder Satzzeichen. „Rechnungseingang“ wird zum Beispiel in mehrere Stücke zerlegt. Für jedes nächste Stück berechnet das Modell, wie wahrscheinlich jede mögliche Fortsetzung ist, und wählt eine davon aus.
Ein Sprachmodell schlägt nicht nach. Es formuliert, was nach allem, was es gelesen hat, am wahrscheinlichsten passt.
Training: Lesen in riesigem Maßstab
Woher weiß das Modell, was passt? Aus dem Training. Dabei „liest“ es enorme Mengen Text — Bücher, Webseiten, Fachartikel, Programmcode — und übt immer wieder dieselbe Aufgabe: das nächste Stück Text vorhersagen. Liegt es daneben, werden seine inneren Stellschrauben ein kleines Stück angepasst.
Diese Stellschrauben heißen Parameter, und große Modelle haben davon Milliarden. Am Ende steckt in ihnen kein Lexikon, sondern ein fein abgestimmtes Gespür für Muster: Grammatik, Fachbegriffe, Tonfall, typische Zusammenhänge — und eben auch viel Faktenwissen, das in diesen Mustern mitgelernt wurde.
Der Trick von 2017: Aufmerksamkeit
Der Durchbruch kam mit der Transformer-Architektur, die Google-Forscher 2017 im Aufsatz „Attention Is All You Need“ vorgestellt haben. Ihr Kern ist ein Mechanismus namens Attention — Aufmerksamkeit. Er erlaubt dem Modell, bei jedem Wort auf alle anderen Wörter im Text zu schauen und zu gewichten, welche gerade wichtig sind.
Ein Beispiel: „Ich habe mich auf die Bank gesetzt“ und „Ich habe Geld zur Bank gebracht“. Dasselbe Wort, zwei Bedeutungen. Durch Attention erkennt das Modell am Kontext — „gesetzt“ oder „Geld“ —, welche gemeint ist. Genau das macht moderne Sprachmodelle so viel besser als alles davor.
Vom Textvervollständiger zum Assistenten
Ein frisch trainiertes Modell ist noch kein hilfreicher Assistent. Es würde auf eine Frage vielleicht mit einer weiteren Frage antworten, weil das im Trainingstext auch oft so vorkam. Deshalb folgt ein zweiter Schritt: Das Modell wird mit Beispielen guter Antworten nachtrainiert, und Menschen bewerten Antworten, damit es lernt, was hilfreich, verständlich und angemessen ist.
Dazu kommen Anweisungen, die du nicht siehst: Der Anbieter gibt dem Modell vor jedem Gespräch Regeln mit, wie es sich verhalten soll. Erst dieses Zusammenspiel macht aus einem Textvorhersager einen Assistenten, der Fragen beantwortet, Texte umschreibt oder Code erklärt.
Warum das trotzdem kein Wissen ist
Aus dem Grundprinzip folgen ein paar Eigenschaften, die jeder kennen sollte, der KI im Alltag nutzt:
- Kein Nachschlagen: Das Modell hat keine Datenbank, in der es Fakten abruft. Es erzeugt Text, der plausibel klingt. Meist stimmt das — aber nicht immer. Darum geht es in Teil 3.
- Ein Wissensstand mit Datum: Was nach dem Trainingsende passiert ist, kennt das Modell nicht — es sei denn, es darf im Internet suchen oder bekommt die Informationen mitgeliefert.
- Etwas Zufall ist gewollt: Das Modell wählt nicht immer das wahrscheinlichste Wort, sondern variiert leicht. Deshalb bekommst du auf dieselbe Frage nicht zweimal exakt dieselbe Antwort.
- Ein begrenztes Kurzzeitgedächtnis: Das Modell „sieht“ nur den Text im aktuellen Gespräch, das sogenannte Kontextfenster. Was nicht darin steht, spielt für die Antwort keine Rolle.
Was das für die Praxis heißt
- Kontext ist alles: Je genauer du beschreibst, was du brauchst, für wen und in welchem Stil, desto besser passt die Antwort. Das Modell kann nur mit dem arbeiten, was du ihm gibst.
- Eigene Unterlagen mitgeben: Soll die KI über deine Produkte, Verträge oder Prozesse sprechen, gib ihr die passenden Dokumente mit — statt darauf zu hoffen, dass sie es „weiß“.
- Fakten prüfen: Zahlen, Namen, Paragrafen und Quellen immer gegenchecken, bevor sie in ein Angebot oder eine Entscheidung fließen.
- Rechnen lassen, aber mit Werkzeug: Sprachmodelle sind keine Taschenrechner. Gute Systeme nutzen für Berechnungen deshalb Zusatzwerkzeuge — ohne die ist Vorsicht angesagt.
Meine Einschätzung aus der Praxis: Die meisten Enttäuschungen mit KI, die ich erlebe, kommen nicht von schlechter Technik, sondern von falschen Erwartungen — man behandelt ein Sprachmodell wie eine Datenbank. Wer dieses Grundprinzip verstanden hat, nutzt KI besser: nicht als Orakel, sondern als sehr belesenen Formulierungshelfer, der gute Vorgaben und einen prüfenden Blick braucht.
Häufige Fragen
Was ist ein Token?
Ein Token ist ein Textbaustein, mit dem ein Sprachmodell arbeitet — meist ein Wortteil, manchmal ein ganzes kurzes Wort oder ein Satzzeichen. Viele Anbieter rechnen ihre Nutzung auch in Tokens ab.
Weiß ChatGPT, was heute passiert ist?
Nur, wenn es im Internet suchen darf oder du die Information mitgibst. Das Modell selbst kennt nur den Stand seiner Trainingsdaten.
Warum bekomme ich auf dieselbe Frage unterschiedliche Antworten?
Weil das Modell bei der Wortwahl bewusst etwas variiert. Das macht Texte natürlicher, bedeutet aber auch: Eine Antwort ist nie „die“ Antwort, sondern eine von mehreren möglichen.
Lernt die KI aus meinen Eingaben?
Das hängt vom Anbieter, vom Tarif und von den Einstellungen ab. Viele Business-Angebote schließen die Nutzung deiner Eingaben für das Training vertraglich aus — prüfen solltest du das trotzdem. Mehr dazu in Teil 5.
Die Reihe „KI verstehen“
Teil 1: Woher KI eigentlich kommt
Teil 2: Wie ein Sprachmodell funktioniert — ohne Mathematik (dieser Beitrag)
Teil 3: Warum KI halluziniert und wie du falsche Antworten erkennst
Teil 4: Was KI im Unternehmen heute wirklich kann
Teil 5: Daten, Datenschutz und der EU AI Act
Teil 6: KI einführen, ohne dass es ein IT-Projekt wird, das scheitert
Titelbild: KI-generiert mit Midjourney.
Über den Autor
Tino Kaufmann ist Gründer von TKC – Tino Kaufmann Consulting in Dresden und begleitet Unternehmen bei ERP-Einführung, Cloud-Architektur und dem sinnvollen Einsatz von KI. Nach zwölf Jahren SAP- und Cloud-Architektur — zuletzt als Development Manager bei der SAP SE — und sieben Jahren in Führung und Teamentwicklung gründete er im Januar 2026 sein eigenes Unternehmen. Er ist zertifizierter Ausbilder (AdA) und Odoo Learning Partner.
→ Website · LinkedIn · Erstgespräch buchen