Cos’è la finestra di contesto? Guida per principianti: perché l’IA dimentica l’inizio di una chat lunga

Blank sage green index cards, a notebook, a pencil and a succulent on a pale wooden desk

5 min read

Una chat con l’IA non ricorda tutto quello che le hai detto. Ricorda ciò che entra nella sua finestra di contesto (context window), e una volta capito questo concetto, una lunga serie di comportamenti strani dell’IA all’improvviso ha senso: l’assistente che a metà di una proposta dimentica i tuoi prezzi, il riassunto che salta la prima metà di un documento, la chat che diventa più lenta e più vaga quanto più la usi.

Questa guida parte da zero. Alla fine saprai cos’è una finestra di contesto, come accorgerti di averne raggiunto i limiti e cinque semplici abitudini che mantengono accurato il tuo lavoro con l’IA.

La definizione in parole semplici

La finestra di contesto è la quantità di testo che un modello di IA riesce a vedere in una volta sola mentre scrive una risposta. Pensala come la scrivania dell’assistente. Tutto ciò che sta sulla scrivania (le tue istruzioni, la conversazione fin qui, i file che hai caricato e la risposta che sta scrivendo) è visibile contemporaneamente. Quello che non ci sta resta fuori dal suo campo visivo.

La dimensione della scrivania si misura in token, piccoli frammenti di testo, spesso una parola breve o una parte di una parola più lunga. In inglese un token corrisponde in media a circa tre quarti di parola, quindi 1.000 token sono più o meno 750 parole. La documentazione di Anthropic sulle finestre di contesto lo spiega allo stesso modo: la finestra è la memoria di lavoro del modello per una singola conversazione, ed è diversa da tutto ciò che il modello ha imparato durante l’addestramento.

Perché interessa a chi ha una piccola attività

Gli assistenti moderni hanno finestre ampie, abbastanza per un contratto lungo o qualche centinaio di email. Allora perché conta? Per tre motivi.

  • Le chat lunghe riempiono la scrivania. Se tieni aperta la stessa conversazione per settimane, le tue prime istruzioni finiscono sepolte sotto centinaia di messaggi successivi. A seconda dello strumento, il materiale più vecchio può essere riassunto, tagliato o semplicemente ricevere meno attenzione.
  • L’attenzione non è uniforme. La ricerca e l’esperienza quotidiana suggeriscono che i modelli prestano più attenzione all’inizio e alla fine di ciò che ricevono, e possono leggere di fretta la parte centrale. Un dettaglio chiave a pagina 23 di 40 è proprio quello che rischia di più di sfuggire.
  • Una scrivania più piena costa di più. Con piani e strumenti che ti fanno pagare o ti limitano in base all’uso, ogni risposta rilegge l’intera conversazione. Una chat gonfia consuma più in fretta la tua quota.

Finestra di contesto, memoria e progetti a confronto

Questi tre concetti vengono confusi di continuo, quindi vale la pena distinguerli.

  • Finestra di contesto: ciò che il modello vede in questo momento, in questa conversazione.
  • Funzioni di memoria: informazioni che alcuni assistenti salvano su di te tra una conversazione e l’altra, come il nome della tua attività. Vengono rimesse sulla scrivania quando servono, quindi occupano comunque spazio.
  • Progetti (e funzioni simili come i GPT personalizzati o i Gems): un insieme salvato di istruzioni e file che viene messo sulla scrivania all’inizio di ogni chat di quel progetto. L’articolo di assistenza di Claude su cosa sono i Projects lo descrive come uno spazio di lavoro autonomo con una propria base di conoscenza.

Nessuna di queste funzioni dà all’IA una scrivania più grande. Decidono cosa finisce per primo sulla scrivania. Per un confronto diretto tra le funzioni di tipo progetto, leggi il nostro confronto tra Custom GPTs, Claude Projects e Gemini Gems.

Quattro segnali che hai raggiunto i limiti

  1. L’assistente ignora una regola che avevi fissato all’inizio (“fai sempre i preventivi in euro”) e torna alle sue impostazioni predefinite.
  2. Contraddice una decisione che avevate preso insieme poco prima, nella stessa chat.
  3. Il riassunto di un documento lungo copre bene la parte iniziale e quella finale, ma è scarno o sbagliato sulla parte centrale.
  4. Le risposte diventano più lente, più generiche o iniziano a inventare dettagli. Quest’ultimo sintomo si sovrappone alle allucinazioni, che spieghiamo nella nostra guida per principianti alle allucinazioni dell’IA.

Nessuno di questi segnali vuol dire che lo strumento è rotto. Vuol dire che la scrivania è in disordine.

Cinque abitudini per tenere la scrivania in ordine

1. Un compito, una conversazione

Scrivi la newsletter in una chat e il sollecito di pagamento in un’altra. Le conversazioni brevi e mirate sono più veloci, più economiche e più accurate. È l’abitudine più efficace di tutta la lista.

2. Scrivi una nota di passaggio prima di ricominciare

Quando una chat lunga inizia a perdere la rotta, chiedi: “Riassumi in meno di 200 parole le decisioni che abbiamo preso, le domande aperte e la bozza attuale.” Copia il risultato in una nuova chat e continua. Mantieni i progressi e ti liberi del disordine.

3. Metti le informazioni fisse in un progetto, non nella chat

I tuoi servizi, i prezzi, il tono di voce e le politiche standard vanno nelle istruzioni del progetto. Così arrivano sempre per primi sulla scrivania, nella posizione a cui il modello presta più attenzione.

4. Fornisci le pagine pertinenti, non l’intero file

Se la tua domanda riguarda la clausola di recesso, incolla la clausola di recesso. Se devi proprio caricare un documento lungo, di’ all’assistente dove guardare: “La risposta è nella sezione 7.”

5. Ripeti l’istruzione fondamentale alla fine

Nelle richieste lunghe, riscrivi come ultima riga l’unica cosa che non deve sfuggire: “Ricorda: prezzi in euro e nessuno sconto oltre il 10%.” Dato che i modelli danno molto peso alla parte finale dell’input, questa semplice ripetizione evita parecchi errori.

Una nota sulla privacy

Tutto ciò che sta sulla scrivania, per definizione, viene inviato al fornitore di IA per essere elaborato. Prima di incollare l’intero fascicolo di un cliente in una chat per “dargli contesto”, chiediti se l’assistente ne ha davvero bisogno per intero. Il nostro confronto tra chat bloccate, Temporary Chat e la modalità in incognito di Claude spiega quali impostazioni tengono quel materiale fuori dalla cronologia e dall’addestramento.

Il tuo primo passo oggi

Apri il tuo assistente IA e trova la conversazione più lunga che hai in corso. Chiedigli una nota di passaggio con il prompt dell’abitudine 2, avvia una nuova chat con quella nota e confronta la qualità della risposta successiva. Quasi tutti notano subito la differenza. Una volta capito questo, il prossimo concetto utile da imparare è MCP, il connettore che permette all’IA di leggere le tue altre app direttamente, invece di dipendere da ciò che incolli.

Quale dei quattro segnali d’allarme hai notato nelle tue chat con l’IA?

Letture correlate

Lascia un commento

Torna in alto