La sigla sta per Large Language Model, modello linguistico di grandi dimensioni. In addestramento il modello impara a prevedere la parola successiva di un testo, e da questa capacità derivano compiti molto diversi tra loro: scrivere una bozza, riassumere un documento, estrarre dati da una email, classificare una richiesta.
Cosa conviene sapere prima di usarlo
- Il modello lavora su ciò che gli fornisci nella richiesta, la finestra di contesto, che fa da memoria di lavoro e comprende anche la risposta. La documentazione Anthropic avverte che più testo non significa automaticamente risultati migliori, perché con molti token accuratezza e richiamo peggiorano.
- Può produrre affermazioni sbagliate o incoerenti con i documenti forniti, le cosiddette allucinazioni. Si riducono chiedendo al modello di citare i passaggi da cui ricava ogni affermazione e di usare solo i documenti forniti, ma le informazioni critiche vanno sempre controllate.
- Con l’uso di strumenti il modello può decidere di chiamare funzioni che definisci tu, come una ricerca nel gestionale; è la tua applicazione a eseguire l’operazione e a restituirgli il risultato.
- Le risposte possono essere vincolate a uno schema JSON, così da passarle a un altro sistema senza riscriverle.
Un esempio in azienda
Un produttore di pompe riceve ogni giorno decine di email dall’assistenza clienti. Un flusso passa ogni messaggio a un LLM, che restituisce in formato strutturato codice macchina, tipo di problema e priorità; il ticket viene creato e assegnato al tecnico competente, mentre i casi in cui il modello segnala dati mancanti passano a un operatore. Classificare e smistare i ticket è tra i casi d’uso descritti nella documentazione Anthropic, insieme agli assistenti per il supporto clienti e alla sintesi di documenti.
Da dove partire
Scegli un compito ripetitivo con un risultato facile da verificare, prepara un campione di casi reali e confronta le risposte del modello con quelle di chi oggi svolge quel lavoro. Per collegarlo poi ai tuoi dati in modo ordinato puoi valutare il Model Context Protocol. Se vuoi impostare questa prova sui tuoi processi, trovi il nostro metodo nella pagina AI e automazione.
Partiamo da un compito reale della tua azienda e verifichiamo insieme dove un modello linguistico può esserti utile.
Parliamo del tuo casoVoce aggiornata il · Torna al glossario