LLM Context Engineering: Prompting, Retrieval und RAG

Steuere, welche Informationen das Modell sieht und wie der Workflow sie nutzt.

Lerne, wie Rollen, Beispiele, Prompt Chains, abgerufene Dokumente, RAG, Agenten, Temperatur und Decoding-Einstellungen einen wiederholbaren LLM-Workflow prägen. Diese Anleitung konzentriert sich auf Kontext und Kontrolle; die nächste Stufe erklärt die zugrunde liegende Architektur.

Rollen-Prompting erklärt

Beim Rollen-Prompting soll das Modell aus einer bestimmten professionellen Perspektive antworten. Die Rolle sollte zur Aufgabe passen und nicht bloß theatralisch wirken. „Handle als erfahrene Leitung im Support-Betrieb“ ist für Ticket-Workflows hilfreich; „Handle als Genie“ fügt meist wenig hinzu.

Beispiel: Für eine Helpdesk-Vorlage: „Handle als Leitung der Support-Qualität. Formuliere diese Antwort kürzer, freundlicher und richtlinienkonform. Behalte die Bedingung für die Rückerstattung unverändert bei.“
Direkter Vergleich von Prompting mit und ohne Rollen-Anweisung.
Rollen-Prompting gibt dem Modell vor der Aufgabe eine Perspektive, Tonalität und gewünschte Detailtiefe.

Few-Shot-Prompting erklärt

Few-Shot-Prompting bedeutet, dass du einige Beispiele für Eingabe und gewünschte Ausgabe bereitstellst. Das ist besonders hilfreich, wenn sich Format, Tonalität oder Klassifikationsgrenzen schwer beschreiben lassen. Zwei bis fünf präzise Beispiele sind häufig besser als eine lange abstrakte Erklärung.

Beispiel: Ein Produktteam liefert drei Beispiele für unstrukturierte Funktionswünsche und die dazugehörigen bereinigten Jira-Tickets. Anschließend soll das Modell die nächste Anfrage im gleichen Aufbau umwandeln.
Diagramm dazu, wie Beispiele ein LLM anleiten, bevor es die eigentliche Aufgabe beantwortet.
Few-Shot-Prompting zeigt dem Modell zuerst Beispiele und vermittelt dadurch das gewünschte Muster.

Prompt Chaining erklärt

Prompt Chaining teilt eine komplexe Aufgabe in kleinere Schritte. Statt Recherche, Gliederung, Entwurf, Kritik und Endfassung gleichzeitig anzufordern, nutzt du eine Abfolge: Fakten extrahieren, Struktur erstellen, Entwurf schreiben, bewerten und überarbeiten. Das verbessert die Kontrolle und macht Fehler leichter erkennbar.

Beispiel: Für eine Landingpage: Schritt 1 Kundenprobleme zusammenfassen. Schritt 2 Seitenstruktur erstellen. Schritt 3 Abschnitte entwerfen. Schritt 4 anhand von Conversion-Kriterien prüfen. Schritt 5 finale Texte erstellen.
Schritt-für-Schritt-Diagramm für Prompt Chaining mit Recherche, Strukturierung, Entwurf und Überarbeitung.
Prompt Chaining zerlegt eine komplexe Aufgabe in kleinere Schritte, bei denen jede Ausgabe in den nächsten Prompt einfließt.
Baue einen wiederholbaren Workflow auf

Kombiniere Prompting-Techniken zu Systemen, die du testen, verbessern, mit Retrieval versorgen und wiederverwenden kannst.

Die stärkere Idee: Entwirf ein Prompt-Betriebssystem

Bei wiederkehrender Arbeit ist der beste Prompt selten nur ein einzelner cleverer Satz. Behandle ihn wie ein kleines Betriebssystem: Rolle, Eingaben, Quellenregeln, Qualitätsmaßstab, Ausgabeformat und Prüfschritt. Dadurch wird der Workflow vermittelbar und leichter zu debuggen.

Einmaliger Prompt

„Schreibe unsere Onboarding-E-Mail.“ Das Modell errät Zielgruppe, Tonalität, Produktdetails und Erfolgskriterien.

Prompt-Betriebssystem

„Verwende das Kundensegment, das Produktversprechen, den Tonalitätsleitfaden, verbotene Aussagen, Beispiel-E-Mails und die folgende Checkliste. Erstelle einen Entwurf, prüfe ihn selbst und gib anschließend die finale E-Mail aus.“

Praktisches Beispiel: Ein SaaS-Supportteam kann folgende Kette nutzen: Ticket klassifizieren → Richtlinie abrufen → Antwort entwerfen → auf unbelegte Aussagen prüfen → finale Antwort erstellen. Jeder Schritt hat eine engere Aufgabe, sodass Fehler leichter zu finden sind.

Context Engineering erklärt

Context Engineering ist die Disziplin, zu entscheiden, welche Informationen zum richtigen Zeitpunkt in das Modell gelangen. Dazu gehören Quellenauswahl, Anweisungshierarchie, Speicher, Retrieval, Beispiele, Tools und Ausgabeschemata. Das Ziel lautet nicht „maximaler Kontext“, sondern der kleinste verlässliche Kontext.

Beispiel: Ein juristischer Assistent sollte die relevante Klausel, den Rechtsraum, die Nutzerfrage und die Ausgabevorgaben erhalten – nicht bei jeder kleinen Frage den gesamten 80-seitigen Vertrag.

Prompts testen

Beim Prompt-Test wird dieselbe Aufgabe mit repräsentativen Beispielen ausgeführt und die Ausgaben werden bewertet. Verwende ein Bewertungsraster mit Kriterien wie Genauigkeit, Vollständigkeit, Formatbefolgung, Tonalität, Sicherheit und Bearbeitungszeit. Halte einen kleinen Regressionstest-Satz bereit, damit du bemerkst, wenn eine Prompt-Änderung einen Fall verbessert, aber einen anderen verschlechtert.

Beispiel: Teste 20 Support-Tickets mit drei Prompt-Varianten. Bewerte jede Antwort von 1 bis 5 hinsichtlich Richtlinienkorrektheit und eingesparter Zeit. Der beste Prompt ist nicht immer der längste.

Bessere KI-Antworten erhalten

Bessere Antworten entstehen meist durch klarere Ziele, besseren Kontext, ausdrückliche Vorgaben, Beispiele und einen Prüfschritt. Fordere das Modell auf, Annahmen zu nennen, ein festgelegtes Format zu verwenden und Unsicherheit zu kennzeichnen. Stelle für wichtige Fakten Quellen bereit oder verlange Zitate aus abgerufenem Material.

Beispiel: Statt „Analysiere das“ fragst du: „Finde die drei riskantesten Annahmen in diesem Markteinführungsplan, erkläre, warum jede wichtig ist, und nenne jeweils einen Test, den wir diese Woche durchführen können.“

RAG einfach erklärt

RAG steht für Retrieval-Augmented Generation. Das System durchsucht zuerst eine Wissensbasis, übergibt relevante Textstellen an das Modell und lässt anschließend eine Antwort erzeugen, die auf diesen Passagen beruht. RAG ist nützlich, wenn Antworten von privaten, veränderlichen oder umfangreichen Dokumenten abhängen. Für einfache Schreibaufgaben ist es nicht erforderlich.

Beispiel: Ein SaaS-Supportbot ruft vor dem Entwurf einer Antwort den aktuellen Absatz der Rückerstattungsrichtlinie ab, damit er sich nicht auf sein Modellwissen oder veraltete Beispiele verlässt.
Einfacher RAG-Ablauf von der Nutzerfrage über den abgerufenen Kontext bis zur erzeugten Antwort.
RAG ruft zuerst hilfreiche Informationen ab; anschließend antwortet das Modell mit diesem Kontext.

Was sind KI-Agenten?

Bisher hast du Prompts geschrieben, auf die eine einzelne Antwort zurückkommt. Ein KI-Agent geht einen Schritt weiter: Er kann mehrere Schritte planen, Tools wie Suche oder Taschenrechner verwenden, das Ergebnis betrachten und entscheiden, was als Nächstes zu tun ist. Dieser Zyklus wiederholt sich, bis die Aufgabe abgeschlossen ist. Der Unterschied ähnelt dem zwischen einer Wegbeschreibung und dem Übergeben der Schlüssel, damit jemand den Auftrag selbst erledigt.

Agenten eignen sich für mehrstufige Aufgaben, die sonst viele einzelne Prompts erfordern würden: mehrere Seiten recherchieren und anschließend zusammenfassen oder etwas nachschlagen und darauf basierend eine Antwort entwerfen. Der Preis dafür ist weniger direkte Kontrolle. Weil ein Agent selbstständig handelt, brauchst du klarere Grenzen und häufig einen Prüfschritt, bevor etwas Wichtiges geschieht. Die technischen Details zu Agenten, Tools und Large Action Models behandelt die fortgeschrittene Anleitung.

Beispiel: „Finde drei aktuelle Artikel zu diesem Thema und schreibe danach eine kurze Zusammenfassung mit Links“ ist eine gute erste Agentenaufgabe: begrenzt, überprüfbar und risikoarm.

Temperatur einfach erklärt

Die Temperatur steuert, wie viel Zufälligkeit das Modell bei der Auswahl von Token verwendet. Eine niedrigere Temperatur führt tendenziell zu vorhersehbareren und konsistenteren Ergebnissen. Eine höhere Temperatur kann mehr Vielfalt und Kreativität erzeugen, erhöht aber möglicherweise die Abweichung von den Anweisungen. Sie ist kein Qualitätsregler, sondern ein Variationsregler.

Beispiel: Verwende für die Extraktion von Rechnungsdaten eine niedrige Temperatur. Für zehn Ideen für Markennamen kannst du eine höhere Temperatur einsetzen und die Ergebnisse anschließend filtern.

Wie das Modell jedes Wort auswählt: Greedy, Top-k und Top-p

Die Temperatur ist nur ein Regler innerhalb eines größeren Schritts, der Decoding oder Sampling genannt wird. An jeder Position weist das Modell jedem möglichen nächsten Token eine Wahrscheinlichkeit zu. Die Decoding-Methode entscheidet anschließend, welcher Kandidat tatsächlich gewählt wird. Diese Einstellungen erklären, warum derselbe Prompt je nach API-Konfiguration starr, leicht wiederholend oder sehr kreativ wirken kann.

Die verbreiteten Methoden, von streng bis flexibel:

Greedy

Wählt bei jedem Schritt das Token mit der höchsten Wahrscheinlichkeit. Dadurch entfällt die Sampling-Zufälligkeit dieses Decoders. Identische Ausgaben sind dennoch nicht über Modellversionen, numerische Implementierungen, Backend-Änderungen oder nicht deterministische Infrastruktur hinweg garantiert.

Top-k

Behält nur die k wahrscheinlichsten Token, zum Beispiel 40, und wählt anschließend aus dieser Menge. Die Auswahlliste hat eine feste Größe, unabhängig davon, wie sicher das Modell ist.

Top-p (Nucleus)

Behält die kleinste Token-Menge, deren Wahrscheinlichkeiten zusammen den Wert p ergeben, etwa 0,9. Die Auswahlliste wird kleiner, wenn das Modell sicher ist, und größer, wenn es unsicher ist.

Min-p

Eine neuere Option: Sie behält Token, die mindestens einen bestimmten Anteil der Wahrscheinlichkeit des wahrscheinlichsten Tokens erreichen. Bei hoher Temperatur bleibt sie tendenziell stabiler als Top-p.

Diese Einstellungen beeinflussen sich gegenseitig, doch die genaue Reihenfolge und die verfügbaren Regler hängen von der Implementierung ab. In einer verbreiteten Pipeline skaliert die Temperatur die Logits vor einem Top-k- oder Top-p-Filter; andere Laufzeiten kombinieren oder ordnen die Prozessoren anders. Einige Anbieter empfehlen, entweder Temperatur oder Top-p zu verändern, statt beide gleichzeitig anzupassen. Halte dich an die Dokumentation des jeweiligen Modells und der API.

Beispiel: Bevorzuge für JSON-Extraktion oder Tool-Argumente schemafestes Structured Output oder Function/Tool Calling, wenn der Anbieter dies unterstützt. Eine niedrige Temperatur kann als zusätzliche Stabilitätseinstellung dienen, ersetzt aber keine Validierung. Für Brainstorming kann eine vom Anbieter unterstützte Sampling-Einstellung die Vielfalt erhöhen. Temperatur 0 bedeutet „so deterministisch, wie es die Implementierung erlaubt“, nicht eine absolute Garantie.
Vergleich von Greedy-, Top-k- und Top-p-Decoding bei der Auswahl des nächsten Tokens.
Greedy-, Top-k- und Top-p-Sampling behalten unterschiedliche Kandidatentoken, bevor das nächste Wort ausgewählt wird.

Als Nächstes echte Prompt-Beispiele entdecken

Nutze den universellen Prompt-Generator, um diese KI-Konzepte in praktische Prompts für Schreiben, Recherche, Arbeit, Lernen und Alltagsaufgaben zu übertragen.

Diese Anleitung teilen

PromptingEasy zum Startbildschirm hinzufügen

Öffne das Browsermenü und wähle die Option, um diese Website zu installieren oder zum Startbildschirm hinzuzufügen.