Na czym polega promptowanie rolą
Promptowanie rolą polega na poproszeniu modelu, aby odpowiadał z określonej perspektywy zawodowej. Rola powinna być związana z zadaniem, a nie teatralna. „Działaj jako starszy menedżer operacyjny ds. wsparcia” jest użyteczne przy pracy ze zgłoszeniami; „działaj jak geniusz” zwykle niewiele wnosi.
Na czym polega few-shot prompting
Few-shot prompting oznacza podanie kilku przykładów danych wejściowych i oczekiwanego wyniku. Jest szczególnie przydatny, gdy format, ton lub granice klasyfikacji trudno opisać słowami. Dwa do pięciu trafnych przykładów często działa lepiej niż długie, abstrakcyjne wyjaśnienie.
Na czym polega łączenie promptów
Łączenie promptów dzieli złożone zadanie na mniejsze etapy. Zamiast prosić jednocześnie o wyszukanie informacji, konspekt, wersję roboczą, krytykę i wersję końcową, uruchamiasz sekwencję: wyodrębnij fakty, utwórz strukturę, napisz szkic, oceń, popraw. Daje to większą kontrolę i ułatwia wychwytywanie błędów.
Łącz techniki tworzenia promptów w systemy, które można testować, ulepszać, zasilać wyszukanymi informacjami i ponownie wykorzystywać.
Mocniejszy pomysł: zaprojektuj system operacyjny dla promptów
Przy powtarzalnej pracy najlepszym promptem rzadko jest jedno sprytne zdanie. Potraktuj go jak mały system operacyjny: rola, dane wejściowe, zasady dotyczące źródeł, poziom jakości, format wyniku i etap kontroli. Dzięki temu łatwiej nauczyć innych tego procesu i łatwiej go debugować.
„Napisz nasz e-mail onboardingowy”. Model zgaduje odbiorców, ton, szczegóły produktu i kryteria sukcesu.
„Użyj poniższych informacji o segmencie klientów, obietnicy produktu, przewodniku po tonie, zakazanych twierdzeniach, przykładowych e-mailach i liście kontrolnej. Przygotuj szkic, sam go sprawdź, a następnie zwróć końcową wersję e-maila”.
Na czym polega inżynieria kontekstu
Inżynieria kontekstu to dyscyplina polegająca na decydowaniu, jakie informacje powinny trafić do modelu i w którym momencie. Obejmuje wybór źródeł, hierarchię instrukcji, pamięć, wyszukiwanie, przykłady, narzędzia i schematy wyników. Celem nie jest „maksymalny kontekst”, lecz najmniejszy niezawodny kontekst.
Jak testować prompty
Testowanie promptów polega na wykonywaniu tego samego zadania na reprezentatywnych przykładach i ocenianiu wyników. Użyj kryteriów: poprawność, kompletność, zgodność z formatem, ton, bezpieczeństwo i czas potrzebny na edycję. Zachowaj mały zestaw regresyjny, aby zauważyć, gdy zmiana promptu poprawia jeden przypadek, ale psuje inny.
Jak uzyskiwać lepsze odpowiedzi AI
Lepsze odpowiedzi zwykle wynikają z jaśniejszych celów, lepszego kontekstu, wyraźnych ograniczeń, przykładów i etapu kontroli. Poproś model o wskazanie założeń, użycie określonego formatu i zaznaczenie niepewności. W przypadku ważnych faktów dostarcz źródła albo wymagaj cytowań z wyszukanych materiałów.
RAG — proste wyjaśnienie
RAG oznacza generowanie wspomagane wyszukiwaniem. System najpierw przeszukuje bazę wiedzy, następnie przekazuje modelowi odpowiednie fragmenty, a model tworzy odpowiedź opartą na tych materiałach. RAG jest przydatny, gdy odpowiedzi zależą od prywatnych, zmieniających się lub bardzo obszernych dokumentów. Nie jest potrzebny przy prostych zadaniach pisarskich.
Czym są agenci AI?
Do tej pory pisałeś prompty, które zwracają jedną odpowiedź. Agent AI idzie o krok dalej: może zaplanować kilka etapów, korzystać z narzędzi (takich jak wyszukiwarka czy kalkulator), sprawdzać wynik i decydować, co zrobić dalej — powtarzając to aż do wykonania zadania. To różnica podobna do proszenia kogoś o wskazanie drogi i przekazania mu kluczy, aby sam załatwił sprawę.
Agenci są przydatni w wieloetapowych zadaniach, które w przeciwnym razie wymagałyby wielu osobnych promptów: wyszukiwanie informacji na kilku stronach, a potem streszczenie; albo wyszukanie informacji i przygotowanie odpowiedzi na jej podstawie. Ceną jest mniejsza kontrola — ponieważ agent działa samodzielnie, trzeba wyznaczyć wyraźniejsze granice i często dodać etap akceptacji przed wykonaniem ważnych działań. Jeśli chcesz poznać techniczne szczegóły działania agentów, narzędzi i Large Action Models, poradnik zaawansowany omawia je szczegółowo.
Temperatura — proste wyjaśnienie
Temperatura kontroluje poziom losowości używany przez model przy wyborze tokenów. Niższa temperatura zwykle daje bardziej przewidywalne i spójne wyniki. Wyższa może zwiększać różnorodność i kreatywność, ale także ryzyko odejścia od instrukcji. To nie jest pokrętło jakości, lecz pokrętło wariantowości.
Jak model wybiera każde słowo: greedy, top-k i top-p
Temperatura jest jednym z ustawień większego etapu nazywanego dekodowaniem (lub próbkowaniem). Na każdej pozycji model przypisuje prawdopodobieństwo każdemu możliwemu kolejnemu tokenowi, a metoda dekodowania decyduje, który kandydat zostanie faktycznie wybrany. Te ustawienia wyjaśniają, dlaczego ten sam prompt może dawać sztywne, lekko powtarzalne albo bardzo kreatywne wyniki zależnie od konfiguracji API.
Najczęstsze metody, od najbardziej rygorystycznych do najbardziej elastycznych:
Wybiera token o najwyższym prawdopodobieństwie na każdym kroku. Usuwa to losowość próbkowania dla tego dekodera, ale identyczny wynik nie jest gwarantowany między wersjami modelu, implementacjami numerycznymi, zmianami backendu ani niedeterministyczną infrastrukturą.
Zachowuje tylko k najbardziej prawdopodobnych tokenów, na przykład 40, a następnie wybiera spośród nich. Lista kandydatów ma stały rozmiar niezależnie od pewności modelu.
Zachowuje najmniejszy zestaw tokenów, których łączne prawdopodobieństwa osiągają p, na przykład 0,9. Lista kandydatów kurczy się, gdy model jest pewny, i rośnie, gdy jest niepewny.
Nowsza opcja: zachowuje tokeny, które osiągają co najmniej określoną część prawdopodobieństwa najlepszego tokenu. Przy wysokiej temperaturze zwykle pozostaje stabilniejsza niż top-p.
Te ustawienia wzajemnie na siebie wpływają, ale dokładna kolejność i dostępne parametry zależą od implementacji. W typowym pipeline temperatura przeskalowuje logity przed filtrem top-k lub top-p; inne środowiska wykonawcze mogą łączyć lub porządkować procesory inaczej. Niektórzy dostawcy zalecają zmieniać temperaturę albo top-p zamiast obu naraz, ale należy stosować się do dokumentacji konkretnego modelu i API.
