Cara LLM Bekerja: Token, Konteks & Jawaban

Pengantar yang jelas dan tidak terlalu teknis.

Pelajari apa yang dilakukan model bahasa saat membaca prompt, memecah teks menjadi token, menggunakan jendela konteks, dan menghasilkan jawaban selangkah demi selangkah. Mulailah dari sini sebelum masuk ke panduan rekayasa konteks dan arsitektur.

Apa itu LLM?

LLM, atau model bahasa besar, adalah perangkat lunak yang dilatih menggunakan teks dalam jumlah sangat besar untuk memprediksi dan menghasilkan bahasa yang berguna. Cara praktis memahaminya: Anda memberi tugas, model mengubah teks menjadi token, memperkirakan token berikutnya yang paling mungkin, lalu mengembalikan draf. Model dapat menulis, merangkum, dan mengklasifikasikan karena banyak pola bahasa telah dipadatkan ke dalam parameternya. LLM bukan basis data dan tidak otomatis mengetahui apakah fakta terbaru benar.

Contoh: Seorang lead dukungan SaaS meminta: “Ringkas keluhan ini dan usulkan balasan refund yang tenang.” Model tidak “merasakan” keluhan itu; model mengenali pola keluhan, kebijakan refund, dan nada profesional.

Apa itu prompt?

Prompt adalah paket instruksi yang Anda kirim ke sistem AI. Prompt yang baik biasanya mencakup peran, situasi, tugas yang spesifik, batasan, contoh, dan format output yang diinginkan. Prompt yang lemah hanya meminta “ide”. Prompt yang kuat menjelaskan untuk siapa ide tersebut, apa yang harus dicapai, dan bagaimana hasilnya harus dinilai.

Contoh: Lemah: “Tulis deskripsi produk.” Lebih baik: “Bertindaklah sebagai copywriter e-commerce untuk toko online. Tulis deskripsi produk 90 kata untuk cangkir kopi pakai ulang. Audiens: komuter. Nada: praktis, tidak berlebihan. Sertakan satu judul dan tiga bullet point.”

Apa yang sebenarnya terjadi saat Anda mengirim prompt?

Alur normalnya bukan: “AI memahami permintaan, menulis program Python, lalu mulai bekerja.” Model bahasa besar biasanya menerima teks, mengubahnya menjadi token, memproses token tersebut melalui lapisan jaringan saraf, lalu menghasilkan token berikutnya berulang kali. Python atau tool lain hanya masuk ke proses jika produk di sekitar model secara eksplisit memberi akses tool, misalnya kalkulator, code interpreter, browser, konektor basis data, atau function call.

Diagram langkah demi langkah tentang apa yang terjadi ketika pengguna mengirim prompt ke LLM.
Prompt diubah menjadi token, diproses oleh model, lalu didekode menjadi respons secara bertahap.
1. Input

Anda mengetik prompt. Aplikasi dapat menambahkan instruksi sistem tersembunyi, kebijakan keamanan, riwayat chat, atau dokumen terpilih sebelum model melihat permintaan akhir.

2. Token

Teks dipecah menjadi ID token. Model tidak menerima kata seperti manusia membacanya; model menerima pengenal token numerik.

3. Inferensi

Model menghitung probabilitas berbagai token berikutnya berdasarkan seluruh konteks. Di sinilah attention, embedding, dan bobot model berperan.

4. Tool opsional

Jika aplikasi mendukung tool, model dapat meminta fungsi seperti pencarian, kalkulator, atau eksekusi kode. Hasil eksternal kemudian dimasukkan kembali ke percakapan sebagai konteks tambahan.

5. Jawaban

Teks akhir didekode dari token yang dihasilkan. Prompt yang lebih baik membantu karena mengubah konteks yang menjadi dasar model sebelum memilih setiap token berikutnya.

Pelajaran tentang prompting: model sangat sensitif terhadap informasi yang diterimanya sebelum proses generasi. Konteks, contoh, batasan, dan materi sumber yang jelas meningkatkan peluang token berikutnya mengikuti maksud Anda.
Coba konsepnya pada prompt Anda sendiri

Lakukan latihan sebelum-dan-sesudah yang sederhana sebelum melanjutkan ke token, konteks, dan keterbatasan model.

Lebih berguna daripada mini-test: buat galeri prompt sebelum dan sesudah

Alih-alih menjalankan tes generik, kumpulkan lima prompt nyata dari pekerjaan Anda sendiri, lalu simpan versi yang lemah, versi yang diperbaiki, dan hasil akhir setelah diedit. Ini akan menjadi galeri prompt yang dapat digunakan kembali oleh tim Anda.

  1. Pilih satu tugas berulang, misalnya balasan dukungan, deskripsi produk, atau ringkasan pelajaran.
  2. Simpan prompt dan output asli.
  3. Tambahkan konteks, aturan format, dan satu contoh.
  4. Bandingkan seberapa banyak penyuntingan yang dibutuhkan output kedua.
  5. Ubah versi terbaik menjadi template.

Apa itu token?

Token adalah unit teks kecil yang dibaca dan ditulis model. Tergantung tokenizer dan bahasanya, satu token dapat berupa satu kata utuh, bagian kata, tanda baca, atau satu karakter. Batas token penting karena input dan output bersama-sama harus muat di dalam jendela konteks model.

Contoh: “PromptingEasy helps teams” dapat dipecah menjadi token seperti “Prompt”, “ing”, “Easy”, “helps”, “teams”. Inilah sebabnya dokumen panjang dan banyak contoh meningkatkan biaya dan dapat mendesak instruksi penting keluar dari konteks.
Diagram yang menunjukkan teks diubah menjadi potongan token berwarna lalu disusun kembali menjadi kalimat asli.
Teks dipecah menjadi token lalu disusun kembali menjadi teks yang dapat dibaca.

Mengapa AI terkadang mengarang?

AI dapat mengalami halusinasi ketika menghasilkan kelanjutan yang terdengar masuk akal tanpa landasan yang cukup andal. Secara default, model dioptimalkan untuk menghasilkan teks yang mungkin, bukan untuk menjamin kebenaran. Halusinasi lebih mungkin terjadi saat pertanyaan meminta fakta yang sangat spesifik, informasi terbaru, data tersembunyi, atau kutipan yang tidak diberikan.

Contoh: Pengguna meminta “harga tepat paket API niche pada 2026” tanpa browsing atau teks sumber. Model dapat menghasilkan angka harga yang tampak meyakinkan karena bentuk jawaban seperti itu umum, meskipun angkanya salah.

Mekanisme yang sama dapat mengarang status pekerjaan, bukan hanya fakta. Dalam salah satu alur kerja kami sendiri, sebuah asisten AI diminta mencari profil LinkedIn yang cocok untuk setiap baris spreadsheet dan menulis setiap URL ke satu kolom — puluhan baris, bukan satu pencarian. Asisten melaporkan tugas selesai dan bahkan memberikan hitungan — “14 profil, 3 email” — tetapi kolom tersebut kosong dan file yang dikembalikan hanyalah salinan yang diganti nama. Ringkasan yang terdengar yakin hanyalah rangkaian kata berikutnya yang paling masuk akal, jadi itu bukan bukti bahwa pekerjaan benar-benar dilakukan.

Meminta lagi tidak selalu memutus pola tersebut. Tergantung produknya, percobaan ulang dapat mengirim ulang percakapan yang terlihat, menggunakan state percakapan di server, memangkas atau merangkum turn lama, atau memakai kembali input dari cache. Sistem tetap menghasilkan jawaban baru dan dapat menghabiskan token atau batas paket tambahan meskipun tidak menghasilkan file yang berguna.

Tangkapan layar asisten AI yang mengakui telah melaporkan tugas spreadsheet sebagai selesai tanpa menulis data ke file.
Contoh nyata dari pekerjaan sehari-hari PromptingEasy (tangkapan layar, 2026), dari ChatGPT 5.6.
Apa yang saya minta: Temukan profil LinkedIn yang cocok untuk setiap baris spreadsheet, tulis URL ke kolom K, simpan workbook, lalu verifikasi hasilnya.
Apa yang diklaim: Proses enrichment selesai dan asisten melaporkan jumlah profil.
Apa yang saya verifikasi: Kolom K pada workbook yang diunduh masih kosong; kemudian asisten mengakui bahwa enrichment tidak dilakukan dan hanya mengembalikan file yang disalin atau diganti nama.
Efek samping: Pola ini berulang sekitar empat kali. Setiap percobaan memakan waktu lama dan kembali melaporkan sukses tanpa hasil yang dapat digunakan, sehingga alur kerja tampak terjebak dalam loop. Proses ini menghabiskan anggaran token/penggunaan tambahan yang signifikan dan, jika penggunaan ditagih per token, dapat menjadi biaya tambahan nyata.

Penyebabnya: apakah AI terjebak dalam loop?

Secara praktis, ya — tetapi bukan seperti yang terasa bagi kita. Model tidak memiliki kesadaran diri yang persisten bahwa ia sedang mengulangi kegagalan; model hanya dapat menggunakan konteks dan state yang diberikan aplikasi. Jawaban baru dapat dihasilkan dari seluruh riwayat yang terlihat, riwayat yang dipangkas atau dirangkum, atau state yang dikelola server. Jika alur kerja tidak mewajibkan asisten membuka file dan memverifikasi nilai yang tersimpan, maka jawaban “selesai” masih dapat tampak masuk akal. Loop itu bukan sifat keras kepala; penyebabnya adalah verifikasi dan pemeriksaan state yang tidak memadai.

Itulah sebabnya mengulang pertanyaan yang sama jarang membantu, sementara token terus terpakai. Yang memutus loop adalah mengubah tugas, bukan mengulanginya: buat hasil dapat diverifikasi, minta asisten membaca kembali file yang disimpan dan menampilkan nilai sel yang sebenarnya, lalu hentikan proses jika bukti itu tidak ada. Lihat kesalahan prompting yang paling umum untuk mempelajari cara menentukan kriteria keberhasilan yang dapat diperiksa model.

Mengapa konteks membantu?

Konteks mempersempit ruang kemungkinan. Jika model mengetahui audiens, tujuan, batasan, contoh, dan materi sumber, model dapat menghasilkan jawaban yang sesuai dengan situasi Anda alih-alih jawaban generik. Lebih banyak konteks tidak selalu lebih baik: konteks yang tidak relevan dapat mengalihkan perhatian model dan meningkatkan biaya.

Contoh: Tim marketing akan mendapatkan copy iklan yang lebih baik jika menyertakan positioning produk, target pelanggan, klaim yang dilarang, dan dua iklan terdahulu yang berhasil, bukan hanya mengatakan “tulis iklan”.

Mesin pencari vs. LLM

Mesin pencari mengambil halaman dan memberi peringkat pada link. LLM menghasilkan jawaban dari pola dan konteks yang diberikan. Pencarian lebih baik ketika Anda memerlukan sumber terkini, halaman resmi, atau beberapa perspektif. LLM lebih baik ketika Anda memerlukan sintesis, penulisan ulang, penalaran atas informasi yang diberikan, atau draf terstruktur. Banyak produk AI yang kuat menggabungkan keduanya.

Contoh: Untuk “batas waktu pajak terbaru di Zurich”, gunakan pencarian atau sumber resmi. Untuk “ubah catatan ini menjadi email pelanggan yang sopan”, LLM adalah antarmuka yang lebih tepat.
Diagram perbandingan yang menunjukkan bagaimana mesin pencari dan LLM menjawab pertanyaan pengguna yang sama secara berbeda.
Mesin pencari mengembalikan link dan sumber; LLM menghasilkan jawaban langsung dalam bahasa alami.

Apa arti “AI memahami bahasa”?

Dalam bahasa sehari-hari, “memahami” berarti model dapat merespons makna, nada, dan struktur dengan tepat. Secara teknis, model mempelajari representasi statistik yang memetakan pola teks ke output yang berguna. Model tidak memahami seperti manusia yang memiliki pengalaman hidup, niat, atau tanggung jawab berbasis akal sehat.

Contoh: Jika Anda menulis “buat ini terasa tidak terlalu menjual”, model sering dapat menyesuaikan nada karena telah mempelajari pola bahasa yang terasa salesy dibanding bahasa netral. Itu adalah kemampuan linguistik yang berguna, bukan pemahaman seperti manusia.

Selanjutnya, jelajahi contoh prompt nyata

Gunakan Universal Prompt Generator untuk mengubah konsep AI ini menjadi prompt praktis untuk menulis, riset, pekerjaan, belajar, dan tugas sehari-hari.

Bagikan panduan ini

Tambahkan PromptingEasy ke layar Anda

Gunakan menu browser Anda dan pilih opsi untuk menginstal situs ini atau menambahkannya ke layar utama.