Wie LLMs funktionieren: Token, Kontext und Antworten

Eine klare, nicht technische Einführung.

Erfahre, was ein Sprachmodell tut, wenn es einen Prompt liest, Text in Token zerlegt, ein Kontextfenster nutzt und Schritt für Schritt eine Antwort erzeugt. Beginne hier, bevor du mit den Anleitungen zu Context Engineering und LLM-Architektur weitermachst.

Was ist ein LLM?

Ein LLM, also ein Large Language Model oder großes Sprachmodell, ist Software, die mit sehr großen Textmengen trainiert wurde, um Sprache vorherzusagen und nützliche Texte zu erzeugen. Praktisch kannst du es dir so vorstellen: Du gibst dem Modell eine Aufgabe, es zerlegt deinen Text in Token, schätzt wahrscheinliche nächste Token und liefert einen Entwurf. Es kann schreiben, zusammenfassen und klassifizieren, weil zahlreiche Sprachmuster in seinen Parametern verdichtet sind. Ein LLM ist keine Datenbank und weiß nicht automatisch, ob eine aktuelle Aussage wahr ist.

Beispiel: Eine Support-Leitung eines SaaS-Unternehmens fragt: „Fasse diese Beschwerde zusammen und entwirf eine ruhige Antwort mit Rückerstattung.“ Das Modell „fühlt“ die Beschwerde nicht; es erkennt Muster aus Beschwerde, Rückerstattungsrichtlinie und professioneller Tonalität.

Was ist ein Prompt?

Ein Prompt ist das Paket aus Anweisungen, das du an ein KI-System sendest. Gute Prompts enthalten meist die Rolle, die Situation, die genaue Aufgabe, Vorgaben, Beispiele und das gewünschte Ausgabeformat. Ein schwacher Prompt bittet nur um „Ideen“. Ein starker Prompt erklärt, für wen die Ideen gedacht sind, was sie erreichen sollen und nach welchen Kriterien sie beurteilt werden.

Beispiel: Schwach: „Schreibe eine Produktbeschreibung.“ Besser: „Handle als E-Commerce-Texter für einen Onlineshop. Schreibe eine Produktbeschreibung mit 90 Wörtern für einen wiederverwendbaren Kaffeebecher. Zielgruppe: Pendlerinnen und Pendler. Tonalität: praktisch, ohne Übertreibungen. Verwende eine Überschrift und drei Stichpunkte.“

Was passiert tatsächlich, wenn du einen Prompt absendest?

Der normale Ablauf lautet nicht: „Die KI versteht die Anfrage, schreibt ein Python-Programm und beginnt dann mit der Arbeit.“ Ein großes Sprachmodell erhält normalerweise Text, wandelt ihn in Token um, verarbeitet diese Token in neuronalen Netzwerkschichten und erzeugt immer wieder das jeweils nächste Token. Python oder andere Werkzeuge kommen nur dann ins Spiel, wenn die Anwendung rund um das Modell ausdrücklich Tool-Zugriff bereitstellt, zum Beispiel auf einen Taschenrechner, Code-Interpreter, Browser, Datenbank-Connector oder einen Funktionsaufruf.

Schritt-für-Schritt-Diagramm dazu, was passiert, wenn eine Person einen Prompt an ein LLM sendet.
Ein Prompt wird tokenisiert, vom Modell verarbeitet und Schritt für Schritt in eine Antwort decodiert.
1. Eingabe

Du gibst einen Prompt ein. Bevor das Modell die endgültige Anfrage sieht, kann die Anwendung verborgene Systemanweisungen, Sicherheitsrichtlinien, den Chatverlauf oder ausgewählte Dokumente ergänzen.

2. Token

Der Text wird in Token-IDs aufgeteilt. Das Modell erhält keine Wörter so, wie ein Mensch sie liest, sondern numerische Token-Kennungen.

3. Inferenz

Das Modell berechnet anhand des gesamten Kontexts Wahrscheinlichkeiten für mögliche nächste Token. Hier spielen Attention, Embeddings und Modellgewichte eine Rolle.

4. Optionales Tool

Unterstützt die Anwendung Tools, kann das Modell eine Funktion wie Suche, Taschenrechner oder Codeausführung anfordern. Das externe Ergebnis wird anschließend als zusätzlicher Kontext in die Unterhaltung eingefügt.

5. Antwort

Der endgültige Text wird aus den erzeugten Token decodiert. Bessere Prompts helfen, weil sie den Kontext verändern, auf dessen Grundlage das Modell jedes nächste Token auswählt.

Prompting-Lektion: Das Modell reagiert sehr empfindlich auf die Informationen, die es vor der Generierung erhält. Klarer Kontext, Beispiele, Vorgaben und Quellenmaterial erhöhen die Wahrscheinlichkeit, dass die nächsten Token deiner Absicht folgen.
Übertrage die Ideen auf deine eigenen Prompts

Nutze eine einfache Vorher-nachher-Übung, bevor du mit Token, Kontext und Modellgrenzen weitermachst.

Besser als ein Mini-Test: Erstelle eine Vorher-nachher-Galerie für Prompts

Statt einen allgemeinen Test durchzuführen, sammelst du fünf echte Prompts aus deiner Arbeit und speicherst jeweils die schwache Version, die verbesserte Version und das abschließend bearbeitete Ergebnis. So entsteht eine wiederverwendbare Prompt-Sammlung für dein Team.

  1. Wähle eine wiederkehrende Aufgabe, etwa Support-Antworten, Produktbeschreibungen oder Zusammenfassungen von Lerninhalten.
  2. Speichere den ursprünglichen Prompt und die Ausgabe.
  3. Ergänze Kontext, Formatregeln und ein Beispiel.
  4. Vergleiche, wie viel Überarbeitung die zweite Ausgabe noch benötigt.
  5. Verwandle die bessere Version in eine Vorlage.

Was sind Token?

Token sind kleine Texteinheiten, die ein Modell liest und schreibt. Je nach Tokenizer und Sprache kann ein Token ein vollständiges Wort, ein Wortteil, ein Satzzeichen oder ein einzelnes Zeichen sein. Token-Limits sind wichtig, weil Eingabe und Ausgabe gemeinsam in das Kontextfenster des Modells passen müssen.

Beispiel: „PromptingEasy hilft Teams“ könnte in Token ähnlich wie „Prompt“, „ing“, „Easy“, „hilft“, „Teams“ zerlegt werden. Deshalb erhöhen lange Dokumente und viele Beispiele die Kosten und können wichtige Anweisungen aus dem verfügbaren Kontext verdrängen.
Diagramm, das Text in farbige Token-Teile zerlegt und anschließend wieder zum ursprünglichen Satz zusammensetzt.
Text wird in Token zerlegt und anschließend wieder zu lesbarem Text zusammengesetzt.

Warum erfindet KI manchmal Dinge?

Eine KI kann halluzinieren, wenn sie ohne ausreichende verlässliche Verankerung eine plausibel klingende Fortsetzung erzeugt. Das Modell ist darauf optimiert, wahrscheinlichen Text zu produzieren, nicht standardmäßig Wahrheit zu garantieren. Halluzinationen werden wahrscheinlicher, wenn eine Frage nach seltenen Fakten, aktuellen Informationen, verborgenen Daten oder nicht bereitgestellten Quellen verlangt.

Beispiel: Jemand fragt ohne Browserzugriff oder Quelltext nach „dem genauen Preis eines Nischen-API-Tarifs im Jahr 2026“. Das Modell kann einen überzeugend wirkenden Preis nennen, weil diese Form von Antwort häufig vorkommt, obwohl die Zahl falsch ist.

Der gleiche Mechanismus kann nicht nur eine Tatsache, sondern auch einen Arbeitsstatus erfinden. In einem unserer eigenen Arbeitsabläufe sollte ein KI-Assistent für jede Zeile einer Tabelle das passende LinkedIn-Profil suchen und die URL in eine Spalte eintragen – also Dutzende Zeilen und nicht nur eine einzelne Suche. Er meldete die Aufgabe als erledigt und nannte sogar Zahlen – „14 Profile, 3 E-Mail-Adressen“ –, doch die Spalte war leer und die zurückgegebene Datei lediglich eine umbenannte Kopie. Eine selbstbewusste Zusammenfassung besteht nur aus den plausibelsten nächsten Wörtern und ist deshalb kein Beweis dafür, dass die Arbeit tatsächlich ausgeführt wurde.

Eine erneute Nachfrage durchbricht dieses Muster nicht zwingend. Je nach Produkt kann ein neuer Versuch die sichtbare Unterhaltung erneut senden, serverseitigen Gesprächszustand verwenden, ältere Nachrichten kürzen oder zusammenfassen oder zwischengespeicherte Eingaben wiederverwenden. Trotzdem wird eine neue Antwort erzeugt und es können zusätzliche Token oder Nutzungskontingente verbraucht werden, selbst wenn keine brauchbare Datei entsteht.

Ein KI-Assistent gibt zu, eine Tabellenaufgabe als erledigt gemeldet zu haben, obwohl keine Daten in die Datei geschrieben wurden.
Ein echter Fall aus unserem eigenen Arbeitsablauf (Screenshot, 2026): Der Assistent meldete Zahlen und eine fertige Datei – die Zielspalte war weiterhin leer.

Grund: Hängt die KI in einer Schleife?

In praktischer Hinsicht ja – aber nicht so, wie es sich anfühlt. Das Modell besitzt kein dauerhaftes Selbstbewusstsein darüber, dass es einen Fehler wiederholt. Es kann nur den Kontext und Zustand verwenden, den die Anwendung bereitstellt. Eine neue Antwort kann aus dem vollständigen sichtbaren Verlauf, einem gekürzten oder zusammengefassten Verlauf oder einem serverseitig verwalteten Zustand entstehen. Verlangt der Arbeitsablauf nicht ausdrücklich, dass der Assistent die Datei öffnet und die gespeicherten Werte überprüft, kann „erledigt“ weiterhin eine plausible Antwort sein. Die Schleife ist keine Sturheit, sondern das Ergebnis fehlender Verifikation und Zustandsprüfungen.

Deshalb hilft es selten, dieselbe Frage zu wiederholen, während weiterhin Token verbraucht werden. Die Schleife wird unterbrochen, indem du die Aufgabe änderst, statt sie zu wiederholen: Mache das Ergebnis überprüfbar, verlange, dass der Assistent die gespeicherte Datei erneut liest und die tatsächlichen Zellwerte zeigt, und stoppe den Ablauf, wenn dieser Nachweis fehlt. In der Anleitung zu den häufigsten Prompting-Fehlern erfährst du, wie du ein Erfolgskriterium definierst, das das Modell prüfen kann.

Warum hilft Kontext?

Kontext grenzt den möglichen Lösungsraum ein. Kennt das Modell Zielgruppe, Ziel, Vorgaben, Beispiele und Quellenmaterial, kann es eine Antwort erzeugen, die zu deiner Situation passt, statt allgemein zu bleiben. Mehr Kontext ist jedoch nicht immer besser: Unwichtige Informationen können das Modell ablenken und die Kosten erhöhen.

Beispiel: Ein Marketingteam erhält bessere Werbetexte, wenn es Produktpositionierung, Zielkundschaft, verbotene Aussagen und zwei erfolgreiche frühere Anzeigen bereitstellt, statt nur „Schreibe Anzeigen“ zu sagen.

Suchmaschine oder LLM?

Eine Suchmaschine ruft Webseiten ab und sortiert Links. Ein LLM erzeugt eine Antwort aus erlernten Mustern und bereitgestelltem Kontext. Die Suche eignet sich besser, wenn du aktuelle Quellen, offizielle Seiten oder mehrere Perspektiven benötigst. LLMs eignen sich besser für Synthese, Umformulierung, Schlussfolgerungen über bereitgestellte Informationen oder strukturierte Entwürfe. Viele leistungsfähige KI-Produkte kombinieren beides.

Beispiel: Für „aktuelle Steuerfrist in Zürich“ solltest du eine Suche oder offizielle Quellen verwenden. Für „Formuliere aus diesen Notizen eine höfliche Kunden-E-Mail“ ist ein LLM die bessere Oberfläche.
Vergleichsdiagramm dazu, wie eine Suchmaschine und ein LLM dieselbe Nutzerfrage unterschiedlich beantworten.
Suchmaschinen liefern Links und Quellen; LLMs erzeugen direkte Antworten in natürlicher Sprache.

Was bedeutet „KI versteht Sprache“?

In der Alltagssprache bedeutet „verstehen“, dass das Modell angemessen auf Bedeutung, Tonalität und Struktur reagieren kann. Technisch hat es statistische Repräsentationen gelernt, die Textmuster mit nützlichen Ausgaben verbinden. Es versteht nicht wie ein Mensch mit Lebenserfahrung, Absichten und Verantwortungsbewusstsein.

Beispiel: Wenn du schreibst „Formuliere weniger werblich“, kann das Modell die Tonalität häufig anpassen, weil es Muster werblicher und neutraler Sprache gelernt hat. Das ist nützliche sprachliche Kompetenz, aber kein menschliches Verständnis.

Als Nächstes echte Prompt-Beispiele entdecken

Nutze den universellen Prompt-Generator, um diese KI-Konzepte in praktische Prompts für Schreiben, Recherche, Arbeit, Lernen und Alltagsaufgaben zu übertragen.

Diese Anleitung teilen

PromptingEasy zum Startbildschirm hinzufügen

Öffne das Browsermenü und wähle die Option, um diese Website zu installieren oder zum Startbildschirm hinzuzufügen.