Quando l'AI inventa, e come accorgertene

Allucinazioni e risposte compiacenti: da dove vengono, dove colpiscono e come si controllano in un minuto

di Connie & Cri · estatalai.it

Non sta mentendo, sta completando

Un assistente conversazionale non cerca informazioni in un archivio: produce la continuazione più probabile di quello che hai scritto. Quasi sempre la continuazione più probabile è anche vera, perché ha letto moltissimo. Ma quando non sa, non si ferma: produce comunque qualcosa di plausibile, con lo stesso tono sicuro di quando ha ragione. Non c'è un campanello, ed è questo il problema.

Dove sbaglia più spesso

Citazioni e fonti. Nomi di articoli, autori e link che sembrano perfetti e non esistono, o esistono ma dicono un'altra cosa

Numeri e date. Percentuali, anni, importi, articoli di legge: sono la categoria più pericolosa perché sembrano precisi

Cose molto recenti. Se non ha cercato sul web, il suo mondo si ferma a qualche mese fa e non sempre te lo dice

Cose molto locali. Orari, indirizzi, regolamenti comunali, nomi di uffici: qui va verificato sempre

Le tue cose. Se non gliele hai raccontate, non le sa, e ogni tanto se le immagina lo stesso

L'altro errore: darti ragione

C'è un secondo modo in cui una risposta può essere sbagliata senza essere inventata: è compiacente. Se scrivi "questa idea è buona, vero?", troverai conferme. Se scrivi "secondo me qui c'è un errore", troverà un errore anche dove non c'è. Il modo di formulare la domanda influenza la risposta più di quanto sembri. Chiedi in modo neutro ("cosa noti in questo testo?") oppure dichiaratamente contrario ("trova cosa non va"), e confronta le due.

Copia questo prompt

Ti incollo un testo e voglio due letture separate, senza che la seconda si appoggi alla prima.
Ecco il testo: [incollalo]
Prima lettura, neutra: cosa noti, senza dirmi se è buono o cattivo e senza darmi consigli.
Seconda lettura, contraria: parti dall'idea che qui dentro ci sia qualcosa che non va, e trovalo.
Poi dimmi dove le due letture si contraddicono, perché è lì che devo guardare io.
Non provare a indovinare cosa ne penso io: non te l'ho detto apposta.

I tre controlli che bastano

Metti la richiesta di ammettere: "se non sei sicuro di qualcosa, dillo invece di riempire il buco". Non risolve tutto, ma riduce parecchio

Chiedi la mappa dei punti deboli: "quali parti di questa risposta potrebbero essere sbagliate e come faccio a controllarle?"

Rifai la domanda in una chat nuova, con parole diverse. Se la risposta cambia sostanza, non fidarti di nessuna delle due

Copia questo prompt

Ecco una risposta che mi hai dato e che sto per usare fuori di qui: [incolla qui la risposta].
Rileggila come se l'avesse scritta qualcun altro e dovessi controllarla tu.
Elencami i punti che potrebbero essere sbagliati, in ordine di rischio, e per ognuno dimmi in una riga come faccio a verificarlo.
Guarda con attenzione nomi, date, numeri, citazioni, link, e tutto quello che riguarda regole locali o fatti recenti.
Se su qualcosa non sei sicuro, dillo invece di riempire il buco.
Alla fine dimmi quali due o tre cose controllerei per prime se avessi solo cinque minuti.

Cosa verificare e cosa no

Verificare tutto è impossibile e non serve. La regola pratica: se una cosa la stai per usare fuori (mandarla a qualcuno, pubblicarla, prendere una decisione), i nomi, le date e i numeri si controllano. Se resta un ragionamento per te, lascia perdere. E se ti ha dato un link, aprilo prima di girarlo: aprire un link costa cinque secondi e ti evita l'unica figuraccia che in questo campo non si dimentica.

Ti è stata utile?

Trovi altre guide gratuite come questa. Vedi tutte le guide