LLM Bağlam Mühendisliği: Prompt Yazma, Geri Getirme ve RAG

Modelin ne gördüğünü ve iş akışının bunu nasıl kullandığını kontrol et.

Rollerin, örneklerin, prompt zincirlerinin, getirilen belgelerin, RAG'in, ajanların, sıcaklık (temperature) ve kod çözme (decoding) kontrollerinin tekrarlanabilir bir LLM iş akışını nasıl şekillendirdiğini öğren. Bu rehber bağlama ve kontrole odaklanır; sonraki seviye alttaki mimariyi açıklar.

Rol tabanlı prompt yazma nedir?

Rol tabanlı prompt yazma, modelden belirli bir profesyonel bakış açısından yanıt vermesini ister. Rol görevle ilgili olmalı, teatral olmamalıdır. “Kıdemli bir destek operasyonları yöneticisi gibi davran” destek kaydı iş akışları için faydalıdır; “bir dâhi gibi davran” ise genellikle çok az şey ekler.

Örnek: Bir destek masası makrosu için: “Bir destek kalite sorumlusu gibi davran. Bu yanıtı daha kısa, daha sıcak ve politikaya uygun olacak şekilde yeniden yaz. Para iadesi koşulunu değiştirme.”
Rol talimatı olan ve olmayan prompt yazmayı yan yana karşılaştıran görsel.
Rol tabanlı prompt yazma, görevden önce modele bir bakış açısı, ton ve ayrıntı düzeyi verir.

Few-shot prompt yazma nedir?

Few-shot prompt yazma, girdinin ve istenen çıktının birkaç örneğini sağlaman demektir. Format, ton veya sınıflandırma sınırlarını kelimelerle anlatmak zor olduğunda özellikle faydalıdır. İki ila beş net örnek çoğu zaman uzun ve soyut bir açıklamadan daha iyidir.

Örnek: Bir ürün ekibi, dağınık özellik taleplerine ve bunların temizlenmiş Jira görev kaydı formatına ait üç örnek verir; ardından modelden sıradaki talebi aynı yapıda dönüştürmesini ister.
Gerçek görev yanıtlanmadan önce örneklerin bir LLM'yi nasıl yönlendirdiğini gösteren diyagram.
Few-shot prompt yazma, önce örnekler göstererek modele istenen örüntüyü öğretir.

Prompt zincirleme nedir?

Prompt zincirleme, karmaşık bir görevi daha küçük adımlara böler. Araştırma, taslak, yazım, eleştiri ve son sürümü aynı anda istemek yerine bir sıra çalıştırırsın: gerçekleri çıkar, yapı oluştur, taslağı yaz, değerlendir, düzelt. Bu kontrolü artırır ve hataları yakalamayı kolaylaştırır.

Örnek: Bir açılış sayfası için: Adım 1 müşteri sorunlarını özetle. Adım 2 sayfa taslağını oluştur. Adım 3 bölümleri yaz. Adım 4 dönüşüm ölçütlerine göre eleştir. Adım 5 nihai metni üret.
Araştırma, düzenleme, taslak ve geliştirme aşamalarına sahip adım adım prompt zincirleme diyagramı.
Prompt zincirleme, karmaşık bir görevi her çıktının bir sonraki prompta aktarıldığı daha küçük adımlara böler.
Tekrarlanabilir bir iş akışı oluştur

Prompt yazma tekniklerini test edebileceğin, geliştirebileceğin, bilgi getirebileceğin ve yeniden kullanabileceğin sistemlerde birleştir.

Daha güçlü bir fikir: bir prompt işletim sistemi tasarla

Tekrarlanan işler için en iyi prompt nadiren tek bir akıllı cümledir. Onu küçük bir işletim sistemi gibi ele al: rol, girdiler, kaynak kuralları, kalite standardı, çıktı formatı ve inceleme adımı. Bu, iş akışını öğretilebilir ve hata ayıklaması daha kolay hâle getirir.

Tek seferlik prompt

“Onboarding e-postamızı yaz.” Model hedef kitleyi, tonu, ürün ayrıntılarını ve başarı ölçütlerini tahmin eder.

Prompt işletim sistemi

“Aşağıdaki müşteri segmentini, ürün vaadini, ton rehberini, yasak iddiaları, örnek e-postaları ve kontrol listesini kullan. Taslak hazırla, kendin gözden geçir, ardından nihai e-postayı üret.”

Pratik örnek: bir SaaS destek ekibi şu zinciri kurabilir: ticket'ı sınıflandır → politikayı getir → yanıtı taslak hâline getir → desteklenmeyen iddiaları kontrol et → nihai yanıtı üret. Her adımın işi daha dardır, bu yüzden hataları bulmak daha kolaydır.

Bağlam mühendisliği nedir?

Bağlam mühendisliği, doğru bilginin doğru zamanda modele girmesine karar verme disiplinidir. Kaynak seçimi, talimat hiyerarşisi, bellek, geri getirme (retrieval), örnekler, araçlar ve çıktı şemalarını kapsar. Hedef “maksimum bağlam” değil; en küçük güvenilir bağlamdır.

Örnek: Bir hukuk asistanına ilgili madde, yargı alanı, kullanıcı sorusu ve çıktı kısıtları verilmelidir — her küçük yanıt için 80 sayfalık sözleşmenin tamamı değil.

Promptlar nasıl test edilir?

Prompt testi, aynı görevi temsil edici örnekler üzerinde çalıştırıp çıktıları puanlamak demektir. Bir rubrik kullan: doğruluk, eksiksizlik, formata uyum, ton, güvenlik ve düzenleme süresi. Bir prompt değişikliği bir vakayı geliştirirken başka birini bozduğunda bunu fark etmek için küçük bir regresyon seti tut.

Örnek: 20 destek ticket'ını üç prompt varyantıyla test et. Her yanıtı politika doğruluğu ve sağlanan zaman tasarrufu açısından 1-5 arasında puanla. En iyi prompt her zaman en uzun prompt değildir.

Daha iyi yapay zekâ yanıtları nasıl alınır?

Daha iyi yanıtlar genellikle daha açık hedeflerden, daha iyi bağlamdan, açık kısıtlardan, örneklerden ve bir inceleme adımından gelir. Modelden varsayımları belirtmesini, belirli bir format kullanmasını ve belirsizliği işaretlemesini iste. Önemli gerçekler için kaynak sağla veya getirilen materyalden atıf istemeyi zorunlu kıl.

Örnek: “Bunu analiz et” yerine şunu sor: “Bu lansman planındaki en yüksek riskli üç varsayımı bul, her birinin neden önemli olduğunu açıkla ve bu hafta çalıştırabileceğimiz bir test ver.”

RAG nedir?

RAG, geri getirmeyle zenginleştirilmiş üretim (retrieval-augmented generation) anlamına gelir. Sistem önce bir bilgi tabanında arama yapar, ardından ilgili pasajları modele verir ve model bu pasajlara dayalı bir yanıt yazar. RAG, yanıtların özel, değişen veya büyük belgelere bağlı olduğu durumlarda faydalıdır. Basit yazı görevleri için gereksizdir.

Örnek: Bir SaaS destek botu yanıt yazmadan önce en güncel para iadesi politikası paragrafını getirir; böylece belleğe veya eski örneklere dayanmaz.
Kullanıcı sorusundan getirilen bağlama ve üretilen yanıta giden basit RAG akışı.
RAG önce faydalı bilgiyi getirir, ardından model bu bağlamla yanıt verir.

Yapay zekâ ajanı nedir?

Şimdiye kadar tek bir yanıt döndüren promptlar yazdın. Bir yapay zekâ ajanı bir adım daha ileri gider: birkaç adımı planlayabilir, araçlar kullanabilir (arama veya hesap makinesi gibi), sonuca bakabilir ve sırada ne yapacağına karar verebilir — görev bitene kadar bunu tekrarlayabilir. Bunu yol tarifi istemekle birine işi senin adına halletmesi için anahtarları vermek arasındaki fark gibi düşün.

Ajanlar, aksi takdirde birçok ayrı prompt gerektirecek çok adımlı işler için faydalıdır: birkaç sayfada araştırma yapıp sonra özetlemek; ya da bir şeyi arayıp buna dayanarak yanıt taslağı oluşturmak. Karşılığında kontrol azalır — ajan kendi başına hareket ettiği için daha net sınırlar ve önemli bir şey gerçekleşmeden önce çoğu zaman bir inceleme adımı verirsin. Ajanların, araçların ve Large Action Model'lerin teknik ayrıntılarını istiyorsan İleri Seviye rehber bunları ayrıntılı biçimde kapsar.

Örnek: “Bu konuda üç güncel makale bul, ardından bağlantılarla kısa bir özet yaz” iyi bir ilk ajan görevidir — sınırları belirli, kontrol edilebilir ve düşük riskli.

Sıcaklık (temperature) nedir?

Sıcaklık (temperature), modelin token seçerken ne kadar rastgelelik kullandığını kontrol eder. Daha düşük sıcaklık daha öngörülebilir ve tutarlı olma eğilimindedir. Daha yüksek sıcaklık daha çeşitli ve yaratıcı olabilir ancak talimatlardan sapmayı artırabilir. Bir kalite düğmesi değil, çeşitlilik düğmesidir.

Örnek: Fatura verisi çıkarmada düşük sıcaklık kullan. On marka adı fikri için daha yüksek sıcaklık kullan ve ardından sonuçları filtrele.

Model her kelimeyi nasıl seçer: greedy, top-k ve top-p

Sıcaklık (temperature), daha büyük bir adım olan kod çözmenin (decoding) veya örneklemenin (sampling) bir ayarıdır. Model her konumda olası her sonraki token için bir olasılık verir ve kod çözme yöntemi hangi adayın gerçekten seçileceğine karar verir. Bu ayarlar, aynı promptun API'nin yapılandırmasına göre neden katı, biraz tekrarlı veya çok yaratıcı hissettirebildiğini açıklar.

Yaygın yöntemler, katıdan esneğe:

Greedy

Her adımda en yüksek olasılıklı tokenı seçer. Bu kod çözücü için örnekleme rastgeleliğini kaldırır; ancak aynı çıktının model sürümleri, sayısal uygulamalar, arka uç değişiklikleri veya deterministik olmayan altyapılar arasında garanti edilmesi mümkün değildir.

Top-k

Yalnızca en olası k tokenı tutar; örneğin 40 ve ardından bunlar arasından seçim yapar. Model ne kadar emin olursa olsun sabit boyutlu bir kısa liste kullanılır.

Top-p (nucleus)

Olasılıkları toplamı p'ye, örneğin 0,9'a ulaşan en küçük token kümesini tutar. Model kendinden eminse liste küçülür, emin değilse büyür.

Min-p

Daha yeni bir seçenek: en yüksek olasılıklı tokenın olasılığının en az belirli bir oranına ulaşan tokenları tutar. Sıcaklık yüksek olduğunda top-p'ye göre daha istikrarlı kalma eğilimindedir.

Bu ayarlar birbiriyle etkileşir ancak kesin sıra ve mevcut kontroller uygulamaya bağlıdır. Yaygın bir işlem hattında sıcaklık (temperature), top-k veya top-p filtresinden önce logit'leri yeniden ölçeklendirir; başka çalışma ortamları işlemcileri farklı biçimde birleştirebilir veya sıralayabilir. Bazı sağlayıcılar sıcaklık (temperature) veya top-p'den yalnızca birini değiştirmeni önerir; ancak belirli model ve API'nin dokümantasyonunu takip et.

Örnek: JSON çıkarımı veya araç argümanları için sağlayıcı destekliyorsa şema kısıtlı yapılandırılmış çıktı veya işlev/araç çağırma tercih et. Düşük sıcaklık ikincil bir istikrar ayarı olabilir, doğrulamanın yerine geçmez. Beyin fırtınası için sağlayıcının desteklediği bir örnekleme ayarı çeşitliliği artırabilir. Sıcaklık 0, “uygulamanın izin verdiği ölçüde deterministik” demektir; kesin garanti değildir.
Sonraki token seçiminde greedy, top-k ve top-p kod çözme stratejilerini karşılaştıran görsel.
Greedy, top-k ve top-p örnekleme, sonraki kelimeyi seçmeden önce farklı aday token kümelerini tutar.

Sırada gerçek prompt örneklerini keşfet

Bu yapay zekâ kavramlarını yazı, araştırma, iş, öğrenme ve günlük görevler için pratik promptlara dönüştürmek üzere evrensel prompt oluşturucuyu kullan.

Bu rehberi paylaş

PromptingEasy uygulamasını ekranına ekle

Tarayıcı menünü kullan ve bu siteyi yükleme veya ana ekranına ekleme seçeneğini seç.