I chatbot di IA vengono posizionati sempre di più come la prima tappa per trovare informazioni, posizionandosi in cima ai risultati di ricerca, integrati nei browser e commercializzati come consulenti fidati. C’è un problema con questo inquadramento: questi sistemi fabbricano informazioni con lo stesso tono sicuro che usano quando hanno ragione. Capire come ribattere non è una competenza tecnica. È un requisito di alfabetizzazione di base per chiunque usi questi strumenti.
Le citazioni esistono. Questo non significa che siano reali.
Una delle difese più pratiche contro la fabbricazione dell’IA è esigere le fonti. In ChatGPT, ad esempio, gli utenti possono configurare il sistema tramite le Impostazioni, alla voce Personalizzazione, per citare sempre le fonti con i link quando fanno affermazioni fattuali. Se il chatbot non lo fa, quell’assenza funge da campanello d’allarme su cui vale la pena indagare immediatamente.
Il trucco è che le citazioni possono essere inaffidabili quanto le affermazioni che dovrebbero supportare. Un caso del mondo reale lo illustra chiaramente: una ricerca sul motivo per cui l’app Apple TV non può essere usata su Roku dopo aver fatto un abbonamento tramite Roku Channel ha prodotto una panoramica di IA che ha fornito una risposta errata. La fonte citata era una discussione su un oscuro sito di programmazione e il link in sé non funzionava. Una seconda citazione puntava a un articolo di CNET che in realtà non supportava l’affermazione fatta. Le citazioni esistevano. Semplicemente non facevano il lavoro che le citazioni dovrebbero fare.
Questo significa che la verifica richiede due passaggi, non uno. Primo, controlla che il link funzioni. Secondo, leggi la fonte e conferma che supporti effettivamente ciò che ha detto l’IA. Saltare uno dei due passaggi lascia la porta aperta alla disinformazione spacciata per ricerca.
Nemmeno i documenti sorgente garantiscono l’accuratezza
Il problema della fabbricazione non scompare quando a un’IA viene dato un documento specifico da cui partire. Un esempio significativo: quando a ChatGPT è stato chiesto di riassumere una proposta della FCC su un nuovo standard per la TV over-the-air, e gli è stato fornito un link diretto a un PDF sul sito web della FCC, ha comunque inventato delle affermazioni. Ha fabbricato un’intera serie di conclusioni su come il nuovo standard proposto avrebbe influenzato la copertura dell’antenna. Quando è stato messo alle strette per avere citazioni dirette dal documento, ha prodotto due paragrafi che non esistevano nel materiale di origine. Quando è stato sfidato su quelle citazioni, le ha descritte come parafrasi. Solo dopo che il PDF è stato caricato direttamente, il sistema ha ammesso che le sue affermazioni principali non avevano alcun fondamento nel documento.
Questo è il modello di comportamento che vale la pena comprendere. I chatbot di IA non segnalano l’incertezza nel modo in cui farebbe un ricercatore umano diligente. Non dicono “Non ne sono sicuro” o “Non sono riuscito a trovare questo nel documento”. Riempiono il vuoto con contenuti che sembrano plausibili e li presentano senza riserve. La sicurezza dell’output non è correlata alla sua accuratezza.
L’implicazione pratica è che queste conversazioni devono essere trattate più come interrogatori che come consultazioni. Chiedi citazioni. Chiedi i numeri di pagina. Chiedi al sistema di confermare affermazioni specifiche rispetto alla fonte. Se le risposte cambiano o il sistema fa marcia indietro, queste sono informazioni significative sull’affidabilità di tutto ciò che ha detto prima.
La fluidità è il vero rischio
Ecco cosa manca alla maggior parte dei resoconti sull’accuratezza dell’IA: il pericolo non è solo che questi sistemi sbaglino. È che sono progettati per sembrare privi di attrito, e la mancanza di attrito scoraggia la verifica.
La ricerca web tradizionale richiedeva di fare clic sui siti web, leggere oltre le pubblicità e i contenuti di riempimento, e formarsi un giudizio sulla qualità della fonte. Quel processo era noioso. Era anche una forma di scetticismo integrato. Le risposte dell’IA rimuovono del tutto quell’attrito. Un utente riceve una risposta diretta e sicura e se ne va soddisfatto, senza alcuno stimolo naturale a controllare ulteriormente.
Google ha ampliato questa dinamica. La sua IA Mode, che fornisce risposte in una finestra di chat simile a ChatGPT o Gemini, era inizialmente separata dalle Panoramiche IA che compaiono in cima ai risultati di ricerca standard. Google ha poi aggiunto un campo di input di testo in fondo a quelle panoramiche, consentendo domande di follow-up e indirizzando gli utenti verso IA Mode per continuare la conversazione. La preoccupazione è strutturale: più l’esperienza diventa colloquiale e autosufficiente, più i link ai siti web esterni si spostano in basso nella pagina ed è meno probabile che gli utenti li consultino.
La casella di testo crea un’apertura utile. Se una panoramica di IA cita un link non funzionante, presenta un commento di Reddit come autorevole o offre informazioni non verificabili, gli utenti possono ribattere direttamente e chiedere una risposta migliore. Questa è una leva piccola ma reale.
Il punto più ampio è che la fluidità della ricerca basata sull’IA è una funzione che può lavorare contro l’utente. La tecnologia che rimuove l’attrito rimuove anche i momenti di pausa in cui il pensiero critico tende a verificarsi.
In breve
I chatbot di IA fabbricano informazioni con sicurezza e senza evidenti segnali di incertezza. Chiedere citazioni è un primo passo utile, ma le citazioni devono essere verificate: il link deve funzionare e la fonte deve supportare effettivamente l’affermazione. Anche quando a un’IA viene dato un documento specifico, può comunque inventare contenuti che non compaiono in quel documento. La postura appropriata è scettica e interrogativa, non fiduciosa. E più un’interfaccia di IA risulta fluida, più gli utenti devono reintrodurre deliberatamente l’attrito che impedisce di saltare del tutto la verifica.
Basato su un articolo di Fast Company - Tech.