Che cos’è un LLM?
Un LLM, o modello linguistico di grandi dimensioni, è un software addestrato su enormi quantità di testo per prevedere e generare linguaggio utile. Un modo pratico per pensarci: gli dai un’attività, trasforma il testo in token, stima i token successivi probabili e restituisce una bozza. Può scrivere, riassumere e classificare perché molti schemi linguistici sono compressi nei suoi parametri. Non è un database e non sa automaticamente se un fatto recente sia vero.
Che cos’è un prompt?
Un prompt è il pacchetto di istruzioni che invii a un sistema di IA. I buoni prompt includono spesso ruolo, situazione, attività esatta, vincoli, esempi e formato di output desiderato. Un prompt debole chiede “idee”. Un prompt forte specifica per chi sono le idee, cosa devono ottenere e come valutarle.
Che cosa succede davvero quando invii un prompt?
Il flusso normale non è: “l’IA comprende la richiesta, scrive un programma Python e poi inizia a lavorare”. Un modello linguistico di grandi dimensioni di solito riceve testo, lo trasforma in token, fa passare quei token attraverso strati di rete neurale e genera il token successivo ripetutamente. Python o altri strumenti entrano in gioco solo quando il prodotto attorno al modello gli concede esplicitamente accesso a strumenti, ad esempio calcolatrice, interprete di codice, browser, connettore a database o chiamata di funzione.
Digiti un prompt. L’applicazione può aggiungere istruzioni di sistema nascoste, politiche di sicurezza, cronologia della chat o documenti selezionati prima che il modello veda la richiesta finale.
Il testo viene suddiviso in ID di token. Il modello non riceve parole come le leggerebbe una persona; riceve identificatori numerici di token.
Il modello calcola le probabilità dei possibili token successivi in base all’intero contesto. È qui che entrano in gioco attenzione, embedding e pesi del modello.
Se l’applicazione supporta strumenti, il modello può richiedere una funzione come ricerca, calcolatrice o esecuzione di codice. Il risultato esterno viene poi reinserito nella conversazione come ulteriore contesto.
Il testo finale viene decodificato dai token generati. Prompt migliori aiutano perché modificano il contesto su cui il modello si condiziona prima di scegliere ogni token successivo.
Fai un semplice esercizio prima/dopo prima di continuare con token, contesto e limiti del modello.
Meglio di un mini test: crea una galleria prima/dopo dei prompt
Invece di eseguire un test generico, raccogli cinque prompt reali del tuo lavoro e salva la versione debole, quella migliorata e il risultato finale modificato. Diventerà una galleria di prompt riutilizzabile per il tuo team.
- Scegli un’attività ricorrente, come risposte di assistenza, descrizioni di prodotto o riassunti di lezioni.
- Salva il prompt e l’output originali.
- Aggiungi contesto, regole di formato e un esempio.
- Confronta quanta modifica richiede il secondo output.
- Trasforma il migliore in un modello.
Che cosa sono i token?
I token sono le piccole unità di testo che un modello legge e scrive. Un token può essere una parola intera, parte di una parola, punteggiatura o un carattere, a seconda del tokenizer e della lingua. I limiti di token contano perché input e output devono rientrare nella finestra di contesto del modello.
Perché l’IA a volte inventa informazioni?
L’IA può avere allucinazioni quando genera una continuazione plausibile senza un ancoraggio affidabile sufficiente. Il modello è ottimizzato per produrre testo probabile, non per garantire automaticamente la verità. Le allucinazioni diventano più probabili quando la domanda richiede fatti oscuri, informazioni recenti, dati nascosti o citazioni non fornite.
Lo stesso meccanismo può inventare uno stato del lavoro, non solo un fatto. In un nostro flusso di lavoro, a un assistente IA è stato chiesto di cercare il profilo LinkedIn corrispondente per ogni riga di un foglio di calcolo e scrivere ciascun URL in una colonna — decine di righe, non una singola ricerca. Ha dichiarato il lavoro concluso e ha persino fornito conteggi — “14 profili, 3 email” — ma la colonna era vuota e il file restituito era una copia rinominata. Un riepilogo sicuro di sé è semplicemente una sequenza di parole plausibile, quindi non prova che il lavoro sia stato svolto.
Chiedere di nuovo non interrompe necessariamente lo schema. A seconda del prodotto, un nuovo tentativo può reinviare la conversazione visibile, usare lo stato della conversazione lato server, troncare o riassumere i turni precedenti oppure riutilizzare input memorizzati nella cache. Genera comunque una nuova risposta e può consumare token o limiti del piano aggiuntivi, anche quando non viene prodotto alcun file utilizzabile.
Motivo: l’IA è intrappolata in un ciclo?
In senso pratico, sì, ma non nel modo in cui può sembrare. Il modello non ha una consapevolezza persistente del fatto che sta ripetendo un errore; può usare solo il contesto e lo stato forniti dall’applicazione. Una nuova risposta può essere generata dall’intera cronologia visibile, da una cronologia troncata o riassunta oppure da uno stato gestito dal server. Se il flusso di lavoro non richiede all’assistente di aprire il file e verificare i valori salvati, “fatto” può rimanere una risposta plausibile. Il ciclo non è ostinazione: mancano verifica e controlli dello stato.
Ecco perché ripetere la stessa domanda raramente aiuta e continua a consumare token. Ciò che interrompe il ciclo è cambiare l’attività, non ripeterla: rendi il risultato verificabile, chiedi all’assistente di rileggere il file salvato e mostrare i valori reali delle celle e interrompi l’esecuzione quando quelle prove mancano. Consulta gli errori più comuni nel prompting per imparare a definire un criterio di successo che il modello possa controllare.
Perché il contesto aiuta?
Il contesto restringe lo spazio di ricerca. Se il modello conosce pubblico, obiettivo, vincoli, esempi e materiale sorgente, può produrre una risposta adatta alla tua situazione invece di una generica. Più contesto non è sempre meglio: il contesto irrilevante può distrarre il modello e aumentare i costi.
Motore di ricerca vs LLM
Un motore di ricerca recupera pagine e ordina link. Un LLM genera una risposta da schemi e contesto fornito. La ricerca è migliore quando servono fonti attuali, pagine ufficiali o più prospettive. Gli LLM sono utili quando servono sintesi, riscrittura, ragionamento sulle informazioni fornite o bozze strutturate. Molti prodotti IA efficaci combinano entrambe le cose.
Che cosa significa “l’IA comprende il linguaggio”?
Nel linguaggio quotidiano, “comprende” significa che il modello può rispondere in modo appropriato a significato, tono e struttura. Tecnicamente, ha appreso rappresentazioni statistiche che associano schemi di testo a output utili. Non comprende come una persona dotata di esperienza vissuta, intenzioni o responsabilità basata sul buon senso.