context window
Quantità massima di testo, misurata in token, che un modello linguistico può considerare in una sola volta.
Definizione
Quantità massima di testo che un modello linguistico può considerare in una sola volta, misurata in token: comprende il prompt, gli eventuali documenti allegati, la conversazione precedente e la risposta in corso. Ciò che resta fuori dalla finestra, per il modello, non esiste.
Etimologia
Dall'inglese context «contesto», dal latino contextus «intreccio», da contexere «intrecciare», e window «finestra», di origine norrena: vindauga, «occhio del vento». L'immagine è quella di una finestra che scorre sul testo e ne lascia vedere solo una parte.
Esempi d'uso
- «Il contratto era troppo lungo per la context window e il modello ha riassunto solo le prime cinquanta pagine.»
- «In una conversazione molto lunga il modello sembra dimenticare le richieste iniziali: sono uscite dalla context window.»
- «Nel 2024 sono arrivati modelli con una context window di un milione di token, abbastanza per diversi romanzi interi.»
Sinonimi
calco italiano trasparente e corretto, sempre più usato
abbreviazione frequente nel gergo
↳ Ambigua fuori dal settore.
Parole correlate
Nota del Paroliere
La context window non è una memoria nel senso umano (→ memoria): somiglia piuttosto a un tavolo su cui il modello tiene aperti i fogli, e quando il tavolo è pieno qualcosa cade. Per questo si ricorre alla → RAG, che porta sul tavolo solo i fogli utili, e alle architetture → subagentiche, che dividono il lavoro fra più tavoli. Una finestra ampia non garantisce un'attenzione uniforme: i modelli tendono a trascurare ciò che sta nel mezzo dei testi molto lunghi. Nei testi per tutti, finestra di contesto è da preferire.
Fonti esterne
Il Paroliere fornisce definizioni originali. Le fonti esterne sono collegate per consultazione, non copiate.