6 min read
Chiedi a ChatGPT di scrivere un breve articolo per il blog sulla cura degli stivali in pelle per la tua bottega di riparazione scarpe. Il testo arriva curato e sicuro di sé, e include una statistica impeccabile: “Secondo uno studio di settore del 2023, il 68% dei danni agli stivali è causato da un’asciugatura sbagliata”. Suona benissimo. Stai quasi per pubblicare. Poi una vocina ti chiede: quale studio?
Ci sono buone probabilità che quello studio non esista. Quando uno strumento di IA afferma qualcosa che sembra vero ma è inventato, si parla di allucinazione dell’IA, e imparare a riconoscerla è una delle competenze più preziose che il titolare di una piccola attività possa sviluppare. La buona notizia è che non servono conoscenze tecniche. Questa guida per principianti spiega cosa sono le allucinazioni, perché si verificano, dove creano problemi concreti e una semplice abitudine da cinque minuti per intercettarle.
Che cos’è davvero un’allucinazione dell’IA
Un’allucinazione dell’IA è una risposta presentata come un fatto, ma falsa o inventata. Può essere una statistica falsa, una citazione mai pronunciata, un libro mai scritto, una legge che non dice ciò che l’IA sostiene o una funzione di un prodotto che non esiste. La parte insidiosa è che le allucinazioni hanno esattamente lo stesso aspetto delle risposte corrette. Stesso tono sicuro, stessa formattazione pulita.
Il termine è molto diffuso in tutto il settore; la voce di Wikipedia sull’allucinazione dell’IA è una buona panoramica semplice se vuoi approfondire. Non devi imparare a memoria la definizione. Ti basta ricordare questo: una risposta dell’IA può essere scorrevole e sbagliata allo stesso tempo.
Perché gli strumenti di IA si inventano le cose
Strumenti di chat come ChatGPT, Claude e Gemini si basano sui cosiddetti modelli linguistici di grandi dimensioni, il nome tecnico di un software addestrato su enormi quantità di testo per prevedere quali parole vengono dopo. Sono bravissimi a produrre testi che suonano giusti. Non verificano i fatti in un database affidabile, a meno che non stiano cercando specificamente sul web o leggendo un documento che gli hai fornito tu.
OpenAI ha spiegato parte del motivo nel suo articolo sul perché i modelli linguistici hanno allucinazioni: il modo in cui questi modelli vengono addestrati e valutati tende a premiare un’ipotesi sicura rispetto a un onesto “non lo so”. Così, quando il modello non ha una risposta solida, spesso riempie il vuoto con qualcosa di plausibile.
I modelli più recenti hanno meno allucinazioni di quelli vecchi, e gli strumenti che cercano sul web o lavorano sui tuoi documenti sono più ancorati alla realtà. Ma nessuno strumento di IA attuale è privo di allucinazioni, e probabilmente sarà così ancora per un po’.
Dove le allucinazioni fanno più danni a una piccola attività
Un fatto inventato durante un brainstorming non ti costa nulla. Un fatto inventato che arriva a un cliente può costarti soldi e fiducia. Queste sono le zone a rischio:
- Numeri e statistiche in articoli del blog, annunci e pagine di vendita.
- Politiche e promesse nelle risposte ai clienti, come condizioni di rimborso, tempi di consegna o copertura della garanzia.
- Questioni legali, fiscali e di licenze, dove una risposta sbagliata ma sicura può portarti a saltare un requisito reale.
- Dettagli su prodotti e strumenti, come prezzi, funzioni o compatibilità, soprattutto per tutto ciò che è uscito di recente.
- Nomi, citazioni e fonti, comprese false citazioni bibliografiche che sembrano articoli veri.
C’è un esempio reale molto noto della seconda categoria. Nel 2024 un tribunale canadese si è pronunciato contro Air Canada dopo che il chatbot del suo sito aveva dato a un viaggiatore informazioni errate sulle tariffe per lutto, e la compagnia è stata ritenuta responsabile di ciò che aveva detto il suo chatbot. Vale la pena leggere il resoconto della BBC sul caso. La lezione per chi lavora in proprio è semplice: se la tua IA lo dice a un cliente, l’hai detto tu.
L’abitudine di verifica da cinque minuti
Non devi diffidare dell’IA. Ti serve solo una routine che intercetti le parti rischiose prima che escano dalle tue mani. Eccone una che richiede circa cinque minuti per ogni contenuto.
Passo 1: Evidenzia ogni affermazione “verificabile”
Leggi una volta la bozza dell’IA e segna tutto ciò che è un numero, una data, un nome, una citazione, un prezzo, una regola o un “gli studi dimostrano”. Tutto il resto (tono, struttura, consigli generali) è a basso rischio. Di solito solo poche frasi vanno controllate.
Passo 2: Chiedi all’IA da dove viene ogni affermazione
Chiedi: “Per ogni statistica e affermazione di fatto nella tua risposta, dammi la fonte e un link. Se non sei sicuro di una fonte, dillo”. Uno strumento valido spesso ammetterà di non poterne indicare una. Quell’ammissione è il tuo segnale per eliminare o sostituire l’affermazione.
Passo 3: Apri il link di persona
Anche quando l’IA fornisce un link, cliccalo. Verifica che la pagina esista e che dica davvero ciò che l’IA sostiene. Le citazioni false o non corrispondenti sono tra le allucinazioni più comuni.
Passo 4: Sostituisci, attenua o cancella
Se trovi una fonte reale, usala. Se non la trovi, attenua l’affermazione trasformandola in qualcosa che sai essere vero (“molti proprietari di stivali li asciugano troppo in fretta”) oppure cancellala. Una frase vaga ma vera batte sempre una frase precisa ma falsa.
Passo 5: Tieni a portata di mano i tuoi dati
La maggior parte delle allucinazioni nelle risposte ai clienti nasce dal fatto che l’IA stava tirando a indovinare sulla tua attività. Scrivi una “scheda dei fatti” di una pagina con prezzi, politiche, orari e zona servita, e incollala (o salvala come istruzioni nel tuo strumento di IA) ogni volta che scrivi testi destinati ai clienti. Quando l’IA ha davanti i tuoi dati, ha molti meno motivi per inventarli.
Modi semplici per avere meno allucinazioni fin dall’inizio
- Dagli il materiale di partenza. Chiedi all’IA di lavorare su un documento, una pagina web o appunti che fornisci tu, invece che a memoria.
- Digli che “non lo so” è permesso. Aggiungi una riga come “Se non sei sicuro, dillo invece di tirare a indovinare”.
- Usa le modalità con ricerca per i fatti recenti. Per tutto ciò che riguarda prezzi, nuovi prodotti o notizie recenti, usa una modalità che cerca sul web, e controlla comunque i link.
- Lascia a una persona l’ultimo passaggio. L’IA scrive la bozza, tu approvi. Conta soprattutto per recensioni, politiche e qualsiasi testo tradotto, come abbiamo spiegato nella nostra guida sul non pubblicare mai una traduzione IA senza revisione.
Il tuo primo passo oggi
Scegli un contenuto scritto dall’IA che hai già pubblicato o inviato: un articolo del blog, la descrizione di un prodotto o una risposta salvata per i clienti. Sottoponilo alla verifica da cinque minuti. La maggior parte dei titolari trova almeno un’affermazione che non riesce a sostenere, e correggerla adesso costa molto meno che spiegarla a un cliente dopo.
Poi trasformala in routine. Le allucinazioni non sono un motivo per smettere di usare l’IA; sono un motivo per usarla come useresti un assistente nuovo, veloce e pieno di entusiasmo: grato per la bozza, attento ai fatti. Hai mai colto uno strumento di IA a inventarsi qualcosa? Raccontaci nei commenti cosa si è inventato; aiuterà gli altri lettori a capire a cosa fare attenzione.
Letture correlate
- La traduzione con l’IA va bene per la prima bozza del tuo sito. Non pubblicarla mai senza revisione
- Come rispondere a ogni recensione Google in cinque minuti a settimana con l’IA (senza sembrare un robot)
- I clienti ora possono scoprire i tuoi testi scritti con ChatGPT? 5 miti sulla nuova filigrana testuale di OpenAI
- Cosa significano le nuove leggi statali sull’IA per un’attività individuale? Una guida introduttiva in parole semplici
