modello linguistico
Sistema che stima quanto è probabile una sequenza di parole e, per questo, sa continuare e generare testi.
Definizione
Sistema che assegna una probabilità alle sequenze di parole di una lingua e, per questo, sa prevedere come può continuare un testo. I primi modelli contavano le frequenze di gruppi di parole consecutive; quelli attuali sono reti neurali addestrate su enormi raccolte di testi, capaci di generare risposte, riassunti e traduzioni. I più grandi si chiamano LLM.
Etimologia
Calco dell'inglese language model. L'idea di descrivere una lingua attraverso la probabilità delle sequenze risale agli studi di Claude Shannon sulla teoria dell'informazione, alla fine degli anni Quaranta; la svolta recente arriva con l'architettura Transformer, presentata nel 2017.
Esempi d'uso
- «Il correttore del telefono che suggerisce la parola successiva è un modello linguistico molto piccolo.»
- «Un modello linguistico addestrato soprattutto su testi inglesi scrive un italiano corretto, ma con qualche calco di troppo.»
- «Il modello linguistico non consulta un'enciclopedia: genera la risposta più probabile, che di solito è anche giusta, ma non sempre.»
Sinonimi
solo per i modelli di grandi dimensioni
↳ Nell'uso corrente i due termini si sovrappongono.
variante meno frequente
semplificazione generica
↳ Comprende anche modelli che non trattano testo.
Parole correlate
Nota del Paroliere
Ogni → LLM è un modello linguistico, ma non ogni modello linguistico è un LLM. La differenza non è solo di scala: i modelli di oggi, addestrati a seguire istruzioni, sono diventati interfacce generali, e la parola si è caricata di aspettative che la definizione tecnica non giustifica. Un modello linguistico modella la lingua, non il mondo; del mondo conosce solo ciò che ne è stato scritto. Per questo, sui fatti, ha bisogno di fonti (→ RAG) e di controlli.
Fonti esterne
Il Paroliere fornisce definizioni originali. Le fonti esterne sono collegate per consultazione, non copiate.