temperatura AI
Parametro che regola quanto un modello linguistico varia le sue scelte: bassa per risposte prevedibili, alta per testi vari.
Definizione
Parametro che regola quanto è variabile la scelta delle parole in un modello linguistico. A temperatura bassa il modello sceglie quasi sempre la continuazione più probabile e dà risposte prevedibili e ripetibili; a temperatura alta concede più spazio a scelte meno probabili, con testi più vari e inventivi, ma anche più esposti a errori e incoerenze.
Etimologia
Uso figurato di temperatura, dal latino temperatura «giusta mescolanza, misura», da temperare. Il termine arriva dalla fisica statistica: la formula con cui il modello sceglie i token ha la stessa forma della distribuzione di Boltzmann, in cui la temperatura stabilisce quanto restano accessibili gli stati meno probabili.
Esempi d'uso
- «Per estrarre i dati dalle fatture teniamo la temperatura a zero: vogliamo sempre la stessa risposta.»
- «Con la temperatura alta il modello ha proposto venti slogan, tre buoni e diciassette improbabili.»
- «Alzare la temperatura non rende il modello più intelligente, solo meno prevedibile.»
Sinonimi
approssimazione divulgativa
↳ La temperatura non aggiunge caso: redistribuisce le probabilità.
etichetta usata da alcune interfacce
↳ Impropria, ma diffusa.
Parole correlate
Nota del Paroliere
Il prestito dalla fisica è coerente: come in un gas caldo le particelle esplorano più stati, così un modello «caldo» esplora più continuazioni (→ temperatura, → entropia). Nelle interfacce di uso comune il parametro è spesso nascosto, ma decide il carattere delle risposte. Un equivoco frequente: una temperatura bassa non garantisce risposte vere, solo risposte stabili, e un errore ripetuto con costanza resta un errore (→ allucinazione AI).
Fonti esterne
Il Paroliere fornisce definizioni originali. Le fonti esterne sono collegate per consultazione, non copiate.