Cos'è
Un modello linguistico di grandi dimensioni (LLM, large language model) è un modello del linguaggio, quasi sempre un transformer, con un numero molto grande di parametri, addestrato su una quantità enorme di testo. La dimensione porta capacità inattese: con pochi esempi nel prompt riesce a fare compiti per cui non è stato addestrato esplicitamente. Gli assistenti in chat sono LLM addestrati ulteriormente a seguire istruzioni.
A cosa serve
Scrivere e correggere, riassumere, tradurre, spiegare, rispondere a domande su un testo che gli dai, scrivere e spiegare codice, e fare da nucleo di ragionamento degli agenti. È uno strumento per bozze ed esplorazione, non una fonte di verità: può dire cose false con sicurezza.
Come si fa
- Scegli come raggiungerne uno: una chat per esplorare, un'API per inserirlo in un prodotto, oppure un modello aperto che fai girare tu quando lo richiedono privacy o costi.
- Scrivi il prompt come un incarico: ruolo o obiettivo, contesto, compito preciso, formato desiderato e un esempio se il formato conta.
- Dagli il materiale invece di fidarti della sua memoria: incolla il documento o collega le tue fonti (vedi Retrieval-augmented generation).
- Itera: leggi la risposta, di' cosa era sbagliato e richiedi; spezza i lavori grandi in passi.
- Verifica tutto ciò che è importante su una fonte affidabile, e non incollare mai segreti o dati personali in un servizio che non controlli.
- Misura, non tirare a indovinare: per un'applicazione vera raccogli casi di prova e rifalli girare ogni volta che cambi prompt o modello.