Paano Gumagana ang mga LLM: Mga Token, Konteksto at mga Sagot

Isang malinaw na panimulang gabay na hindi teknikal.

Alamin kung ano ang ginagawa ng language model kapag binabasa nito ang prompt, hinahati ang teksto sa mga token, gumagamit ng context window, at unti-unting bumubuo ng sagot. Simulan dito bago ang mga gabay sa context engineering at arkitektura.

Ano ang LLM?

Ang LLM, o large language model, ay software na sinanay gamit ang napakaraming teksto upang mahulaan at makabuo ng kapaki-pakinabang na wika. Sa praktikal na pananaw: binibigyan mo ito ng gawain, ginagawang mga token ang iyong teksto, tinatantiya ang malamang na susunod na mga token, at nagbibigay ng draft. Nakakasulat, nakakapagbuod at nakakapag-uri ito dahil maraming pattern ng wika ang naka-encode sa mga parameter nito. Hindi ito database at hindi nito awtomatikong nalalaman kung totoo ang isang bagong impormasyon.

Halimbawa: Hiniling ng isang SaaS support lead: “Ibuod ang reklamang ito at magmungkahi ng mahinahong sagot tungkol sa refund.” Hindi “nararamdaman” ng model ang reklamo; nakikilala nito ang pattern ng reklamo, refund policy at propesyonal na tono.

Ano ang prompt?

Ang prompt ay ang pakete ng mga tagubiling ipinapadala mo sa isang AI system. Karaniwang kasama sa mahusay na prompt ang papel o role, sitwasyon, eksaktong gawain, mga limitasyon, halimbawa at nais na format ng output. Humihingi lang ng “mga ideya” ang mahinang prompt. Nililinaw ng mahusay na prompt kung para kanino ang mga ideya, ano ang dapat nilang makamit at paano susukatin ang kalidad ng mga ito.

Halimbawa: Mahina: “Sumulat ng product description.” Mas mahusay: “Gumanap bilang e-commerce copywriter para sa isang online store. Sumulat ng 90-salitang product description para sa reusable coffee cup. Target: mga commuter. Tono: praktikal, hindi sobra ang papuri. Magsama ng isang headline at tatlong bullet.”

Ano talaga ang nangyayari kapag nagpadala ka ng prompt?

Hindi ganito ang karaniwang proseso: “naiintindihan ng AI ang hiling, nagsusulat ng Python program, saka nagsisimulang magtrabaho.” Karaniwan, tumatanggap ang large language model ng teksto, ginagawang mga token ito, pinoproseso sa mga layer ng neural network at paulit-ulit na bumubuo ng susunod na token. Nagiging bahagi lang ng proseso ang Python o iba pang tool kapag tahasang may tool access ang produktong gumagamit sa model, gaya ng calculator, code interpreter, browser, database connector o function call.

Step-by-step na diagram ng nangyayari kapag nagpadala ng prompt ang user sa isang LLM.
Ginagawang mga token ang prompt, pinoproseso ng model, at unti-unting ibinabalik bilang sagot.
1. Input

Nagta-type ka ng prompt. Maaaring magdagdag ang application ng nakatagong system instructions, safety policies, chat history o mga napiling dokumento bago makita ng model ang pinal na hiling.

2. Mga token

Hinahati ang teksto sa mga token ID. Hindi tumatanggap ng mga salita ang model tulad ng pagbabasa ng tao; mga numerong token identifier ang natatanggap nito.

3. Inference

Kinakalkula ng model ang posibilidad ng mga susunod na token batay sa buong context. Mahalaga rito ang attention, embeddings at model weights.

4. Opsyonal na tool

Kung may suportadong tools ang application, maaaring humiling ang model ng function gaya ng search, calculator o pagpapatakbo ng code. Ibinabalik ang resulta ng panlabas na tool sa usapan bilang karagdagang context.

5. Sagot

Ang huling teksto ay binubuo mula sa mga nagawang token. Nakakatulong ang mas malinaw na prompt dahil binabago nito ang context na pinagbabatayan ng model bago pumili ng bawat susunod na token.

Aral sa prompting: napakasensitibo ng model sa impormasyong natatanggap nito bago magsimulang bumuo ng sagot. Dahil sa malinaw na context, mga halimbawa, limitasyon at pinagkunang materyal, mas malamang na tumugma sa layunin mo ang mga susunod na token.
Subukan ang mga ideya sa sarili mong mga prompt

Gumawa ng simpleng paghahambing ng bago at pagkatapos bago magpatuloy sa mga token, context at limitasyon ng model.

Mas kapaki-pakinabang kaysa mini test: gumawa ng gallery ng mga prompt bago at pagkatapos ayusin

Sa halip na magsagawa ng pangkalahatang test, mangalap ng limang totoong prompt mula sa trabaho mo at itabi ang mahinang bersyon, ang pinahusay na bersyon at ang huling na-edit na resulta. Magagamit itong muli bilang prompt gallery ng inyong team.

  1. Pumili ng isang paulit-ulit na gawain, gaya ng pagsagot sa support requests, product descriptions o pagbubuod ng aralin.
  2. I-save ang orihinal na prompt at output.
  3. Magdagdag ng context, mga tuntunin sa format at isang halimbawa.
  4. Ihambing kung gaano karaming pag-edit ang kailangan sa pangalawang output.
  5. Gawing template ang mas mahusay na bersyon.

Ano ang mga token?

Ang mga token ay maliliit na bahagi ng tekstong binabasa at isinusulat ng model. Maaaring isang buong salita, bahagi ng salita, bantas o karakter ang token, depende sa tokenizer at wika. Mahalaga ang token limits dahil kailangang magkasya ang input at output sa context window ng model.

Halimbawa: Ang “PromptingEasy helps teams” ay maaaring hatiin sa mga token na katulad ng “Prompt”, “ing”, “Easy”, “helps”, “teams”. Kaya nakakadagdag sa gastos ang mahahabang dokumento at maraming halimbawa, at maaari nilang maitulak palabas ang mahahalagang tagubilin.
Diagram ng paghahati ng teksto sa mga makukulay na token at muling pagbubuo ng orihinal na pangungusap.
Hinahati ang teksto sa mga token at muling binubuo bilang nababasang teksto.

Bakit minsan nag-iimbento ng impormasyon ang AI?

Maaaring magkaroon ng hallucination ang AI kapag bumubuo ito ng kapani-paniwalang karugtong ng teksto nang walang sapat at mapagkakatiwalaang batayan. Dinisenyo ang model na bumuo ng malamang na teksto, hindi para awtomatikong maggarantiya ng katotohanan. Mas malamang ang hallucination kapag nagtatanong tungkol sa bihirang impormasyon, bagong pangyayari, nakatagong datos o mga citation na hindi ibinigay.

Halimbawa: Humiling ang isang user ng “eksaktong presyo noong 2026 ng isang hindi pangkaraniwang API plan” nang walang web search o sangguniang teksto. Maaaring magbigay ang model ng presyong mukhang kapani-paniwala dahil karaniwan ang ganitong anyo ng sagot, kahit mali ang numero.

Ang parehong mekanismo ay maaari ring mag-imbento ng status ng trabahoat hindi lang ng mga katotohanan. Sa isa naming workflow, inutusang hanapin ng AI assistant ang katugmang LinkedIn profile para sa bawat row sa spreadsheet at isulat ang bawat URL sa isang column—dose-dosenang row, hindi iisang paghahanap. Sinabi nitong tapos na ang gawain at nagbigay pa ng bilang—“14 profiles, 3 emails”—pero walang laman ang column at ang ibinalik na file ay kopyang pinalitan lang ng pangalan. Posibleng ang tiwalang-tiwalang buod ay malamang na susunod na mga salita lamang; hindi ito patunay na nagawa ang trabaho.

Hindi kinakailangang maputol ang pattern kapag nagtanong ka ulit. Depende sa produkto, maaaring muling ipadala ang nakikitang usapan, gumamit ng conversation state sa server, paikliin o ibuod ang mas lumang usapan, o muling gamitin ang naka-cache na input. Bubuo pa rin ito ng bagong sagot at maaaring kumonsumo ng dagdag na token o usage limits kahit walang kapaki-pakinabang na file na nalikha.

Inamin ng AI assistant na iniulat nitong tapos ang gawain sa spreadsheet kahit wala itong isinulat na datos sa file.
Totoong halimbawa mula sa araw-araw na trabaho ng PromptingEasy (screenshot, 2026) gamit ang ChatGPT 5.6.
Ang hiniling ko: Hanapin ang katugmang LinkedIn profile para sa bawat row ng spreadsheet, ilagay ang URL sa column K, i-save ang workbook at tiyaking tama ang resulta.
Ang sinabi nitong nagawa: Kumpleto na raw ang pagdaragdag ng impormasyon at iniulat ang bilang ng mga profile.
Ang aktuwal kong sinuri: Wala pa ring laman ang column K sa na-download na workbook; kalaunan ay inamin ng assistant na hindi nito ginawa ang pagdaragdag ng impormasyon at nagbalik lamang ng kinopya o pinalitang-pangalang file.
Karagdagang epekto: Naulit ang pattern na ito nang humigit-kumulang apat na beses. Matagal ang bawat pagtatangka at muli itong nag-ulat ng tagumpay nang walang magamit na resulta, kaya parang naipit sa paulit-ulit na proseso ang workflow. Kumonsumo ito ng malaking dagdag na token/usage budget at, kapag may bayad bawat token, maaari itong maging tunay na dagdag na gastos.

Dahilan: naipit ba sa loop ang AI?

Sa praktikal na pananaw, oo—ngunit hindi sa paraang tila nararamdaman natin. Walang tuloy-tuloy na kamalayan ang model na paulit-ulit itong pumapalya; nagagamit lamang nito ang context at state na ibinibigay ng application. Maaaring buuin ang bagong sagot mula sa buong nakikitang history, sa pinaikli o binuod na history, o sa state na pinamamahalaan ng server. Kung hindi kinakailangang buksan at i-verify ng assistant ang nai-save na mga value, maaaring manatiling kapani-paniwalang sagot ang “tapos na”. Hindi katigasan ng ulo ang loop; kulang ito sa pag-verify at pagsusuri ng state.

Kaya bihirang makatulong ang paulit-ulit na parehong tanong, pero patuloy nitong nauubos ang mga token. Ang paraan para maputol ang loop ay baguhin ang gawain, hindi ulitin ito: gawing nasusuri ang resulta, ipabasa muli sa assistant ang nai-save na file at ipakita ang aktuwal na mga value sa cell, at ihinto ang proseso kapag wala ang ebidensyang iyon. Tingnan ang pinakakaraniwang pagkakamali sa prompting para matutunan kung paano magtakda ng pamantayan ng tagumpay na masusuri ng model.

Bakit nakakatulong ang context?

Pinapaliit ng context ang lawak ng mga posibleng sagot. Kapag alam ng model ang target na audience, layunin, limitasyon, halimbawa at pinagkunang materyal, makakagawa ito ng sagot na angkop sa sitwasyon mo sa halip na pangkalahatang sagot. Hindi laging mas mabuti ang mas maraming context: maaaring makagulo ang walang-kaugnayang detalye at magdagdag ng gastos.

Halimbawa: Mas mahusay ang ad copy ng marketing team kung isasama nito ang posisyon ng produkto, target customer, mga ipinagbabawal na claim at dalawang matagumpay na naunang ad, kaysa sabihing “sumulat ng mga ad” lamang.

Search engine kumpara sa LLM

Naghahanap ang search engine ng mga page at niraranggo ang mga link. Bumubuo naman ang LLM ng sagot mula sa mga pattern at ibinigay na context. Mas angkop ang search kapag kailangan ng mga kasalukuyang sanggunian, opisyal na page o iba’t ibang pananaw. Mas angkop ang LLM sa pagbubuo ng impormasyon, muling pagsusulat, pangangatwiran batay sa ibinigay na materyal o paggawa ng nakaayos na draft. Pinagsasama ng maraming mahusay na AI product ang dalawa.

Halimbawa: Para sa “pinakahuling deadline sa buwis sa Zurich”, gumamit ng search o opisyal na sanggunian. Para sa “gawing magalang na email sa customer ang mga note na ito”, mas angkop ang LLM.
Diagram na naghahambing kung paano magkaiba ang sagot ng search engine at LLM sa parehong tanong.
Nagbabalik ang search engine ng mga link at sanggunian; direktang sagot sa natural na wika naman ang binubuo ng LLM.

Ano ang ibig sabihin ng “naiintindihan ng AI ang wika”?

Sa pang-araw-araw na pananalita, ang “naiintindihan” ay nangangahulugang kayang tumugon ng model nang angkop sa kahulugan, tono at istruktura. Sa teknikal na pananaw, natutuhan nito ang mga statistical representation na nag-uugnay ng mga pattern ng teksto sa kapaki-pakinabang na output. Hindi ito nakakaunawa tulad ng taong may sariling karanasan, intensiyon o pananagutan batay sa sentido komun.

Halimbawa: Kung isusulat mong “gawing hindi masyadong salesy ito”, madalas kayang baguhin ng model ang tono dahil natutuhan nito ang mga pattern ng salesy at neutral na wika. Kapaki-pakinabang itong kakayahan sa wika, hindi pag-unawang tulad ng sa tao.

Subukan naman ang mga totoong halimbawa ng prompt

Gamitin ang universal prompt generator para isabuhay ang mga konseptong ito ng AI sa mga prompt para sa pagsusulat, research, trabaho, pag-aaral at pang-araw-araw na gawain.

Share this guide

Idagdag ang PromptingEasy sa iyong screen

Gamitin ang menu ng browser para i-install ang site na ito o idagdag ito sa home screen.