Apa itu LLM?
LLM, atau model bahasa besar, adalah perangkat lunak yang dilatih menggunakan teks dalam jumlah sangat besar untuk memprediksi dan menghasilkan bahasa yang berguna. Cara praktis memahaminya: Anda memberi tugas, model mengubah teks menjadi token, memperkirakan token berikutnya yang paling mungkin, lalu mengembalikan draf. Model dapat menulis, merangkum, dan mengklasifikasikan karena banyak pola bahasa telah dipadatkan ke dalam parameternya. LLM bukan basis data dan tidak otomatis mengetahui apakah fakta terbaru benar.
Apa itu prompt?
Prompt adalah paket instruksi yang Anda kirim ke sistem AI. Prompt yang baik biasanya mencakup peran, situasi, tugas yang spesifik, batasan, contoh, dan format output yang diinginkan. Prompt yang lemah hanya meminta “ide”. Prompt yang kuat menjelaskan untuk siapa ide tersebut, apa yang harus dicapai, dan bagaimana hasilnya harus dinilai.
Apa yang sebenarnya terjadi saat Anda mengirim prompt?
Alur normalnya bukan: “AI memahami permintaan, menulis program Python, lalu mulai bekerja.” Model bahasa besar biasanya menerima teks, mengubahnya menjadi token, memproses token tersebut melalui lapisan jaringan saraf, lalu menghasilkan token berikutnya berulang kali. Python atau tool lain hanya masuk ke proses jika produk di sekitar model secara eksplisit memberi akses tool, misalnya kalkulator, code interpreter, browser, konektor basis data, atau function call.

Anda mengetik prompt. Aplikasi dapat menambahkan instruksi sistem tersembunyi, kebijakan keamanan, riwayat chat, atau dokumen terpilih sebelum model melihat permintaan akhir.
Teks dipecah menjadi ID token. Model tidak menerima kata seperti manusia membacanya; model menerima pengenal token numerik.
Model menghitung probabilitas berbagai token berikutnya berdasarkan seluruh konteks. Di sinilah attention, embedding, dan bobot model berperan.
Jika aplikasi mendukung tool, model dapat meminta fungsi seperti pencarian, kalkulator, atau eksekusi kode. Hasil eksternal kemudian dimasukkan kembali ke percakapan sebagai konteks tambahan.
Teks akhir didekode dari token yang dihasilkan. Prompt yang lebih baik membantu karena mengubah konteks yang menjadi dasar model sebelum memilih setiap token berikutnya.
Lakukan latihan sebelum-dan-sesudah yang sederhana sebelum melanjutkan ke token, konteks, dan keterbatasan model.
Lebih berguna daripada mini-test: buat galeri prompt sebelum dan sesudah
Alih-alih menjalankan tes generik, kumpulkan lima prompt nyata dari pekerjaan Anda sendiri, lalu simpan versi yang lemah, versi yang diperbaiki, dan hasil akhir setelah diedit. Ini akan menjadi galeri prompt yang dapat digunakan kembali oleh tim Anda.
- Pilih satu tugas berulang, misalnya balasan dukungan, deskripsi produk, atau ringkasan pelajaran.
- Simpan prompt dan output asli.
- Tambahkan konteks, aturan format, dan satu contoh.
- Bandingkan seberapa banyak penyuntingan yang dibutuhkan output kedua.
- Ubah versi terbaik menjadi template.
Apa itu token?
Token adalah unit teks kecil yang dibaca dan ditulis model. Tergantung tokenizer dan bahasanya, satu token dapat berupa satu kata utuh, bagian kata, tanda baca, atau satu karakter. Batas token penting karena input dan output bersama-sama harus muat di dalam jendela konteks model.

Mengapa AI terkadang mengarang?
AI dapat mengalami halusinasi ketika menghasilkan kelanjutan yang terdengar masuk akal tanpa landasan yang cukup andal. Secara default, model dioptimalkan untuk menghasilkan teks yang mungkin, bukan untuk menjamin kebenaran. Halusinasi lebih mungkin terjadi saat pertanyaan meminta fakta yang sangat spesifik, informasi terbaru, data tersembunyi, atau kutipan yang tidak diberikan.
Mekanisme yang sama dapat mengarang status pekerjaan, bukan hanya fakta. Dalam salah satu alur kerja kami sendiri, sebuah asisten AI diminta mencari profil LinkedIn yang cocok untuk setiap baris spreadsheet dan menulis setiap URL ke satu kolom — puluhan baris, bukan satu pencarian. Asisten melaporkan tugas selesai dan bahkan memberikan hitungan — “14 profil, 3 email” — tetapi kolom tersebut kosong dan file yang dikembalikan hanyalah salinan yang diganti nama. Ringkasan yang terdengar yakin hanyalah rangkaian kata berikutnya yang paling masuk akal, jadi itu bukan bukti bahwa pekerjaan benar-benar dilakukan.
Meminta lagi tidak selalu memutus pola tersebut. Tergantung produknya, percobaan ulang dapat mengirim ulang percakapan yang terlihat, menggunakan state percakapan di server, memangkas atau merangkum turn lama, atau memakai kembali input dari cache. Sistem tetap menghasilkan jawaban baru dan dapat menghabiskan token atau batas paket tambahan meskipun tidak menghasilkan file yang berguna.

Apa yang saya minta: Temukan profil LinkedIn yang cocok untuk setiap baris spreadsheet, tulis URL ke kolom K, simpan workbook, lalu verifikasi hasilnya.
Apa yang diklaim: Proses enrichment selesai dan asisten melaporkan jumlah profil.
Apa yang saya verifikasi: Kolom K pada workbook yang diunduh masih kosong; kemudian asisten mengakui bahwa enrichment tidak dilakukan dan hanya mengembalikan file yang disalin atau diganti nama.
Efek samping: Pola ini berulang sekitar empat kali. Setiap percobaan memakan waktu lama dan kembali melaporkan sukses tanpa hasil yang dapat digunakan, sehingga alur kerja tampak terjebak dalam loop. Proses ini menghabiskan anggaran token/penggunaan tambahan yang signifikan dan, jika penggunaan ditagih per token, dapat menjadi biaya tambahan nyata.
Penyebabnya: apakah AI terjebak dalam loop?
Secara praktis, ya — tetapi bukan seperti yang terasa bagi kita. Model tidak memiliki kesadaran diri yang persisten bahwa ia sedang mengulangi kegagalan; model hanya dapat menggunakan konteks dan state yang diberikan aplikasi. Jawaban baru dapat dihasilkan dari seluruh riwayat yang terlihat, riwayat yang dipangkas atau dirangkum, atau state yang dikelola server. Jika alur kerja tidak mewajibkan asisten membuka file dan memverifikasi nilai yang tersimpan, maka jawaban “selesai” masih dapat tampak masuk akal. Loop itu bukan sifat keras kepala; penyebabnya adalah verifikasi dan pemeriksaan state yang tidak memadai.
Itulah sebabnya mengulang pertanyaan yang sama jarang membantu, sementara token terus terpakai. Yang memutus loop adalah mengubah tugas, bukan mengulanginya: buat hasil dapat diverifikasi, minta asisten membaca kembali file yang disimpan dan menampilkan nilai sel yang sebenarnya, lalu hentikan proses jika bukti itu tidak ada. Lihat kesalahan prompting yang paling umum untuk mempelajari cara menentukan kriteria keberhasilan yang dapat diperiksa model.
Mengapa konteks membantu?
Konteks mempersempit ruang kemungkinan. Jika model mengetahui audiens, tujuan, batasan, contoh, dan materi sumber, model dapat menghasilkan jawaban yang sesuai dengan situasi Anda alih-alih jawaban generik. Lebih banyak konteks tidak selalu lebih baik: konteks yang tidak relevan dapat mengalihkan perhatian model dan meningkatkan biaya.
Mesin pencari vs. LLM
Mesin pencari mengambil halaman dan memberi peringkat pada link. LLM menghasilkan jawaban dari pola dan konteks yang diberikan. Pencarian lebih baik ketika Anda memerlukan sumber terkini, halaman resmi, atau beberapa perspektif. LLM lebih baik ketika Anda memerlukan sintesis, penulisan ulang, penalaran atas informasi yang diberikan, atau draf terstruktur. Banyak produk AI yang kuat menggabungkan keduanya.

Apa arti “AI memahami bahasa”?
Dalam bahasa sehari-hari, “memahami” berarti model dapat merespons makna, nada, dan struktur dengan tepat. Secara teknis, model mempelajari representasi statistik yang memetakan pola teks ke output yang berguna. Model tidak memahami seperti manusia yang memiliki pengalaman hidup, niat, atau tanggung jawab berbasis akal sehat.