Dire «non lo so» non è necessariamente un segno di debolezza. Al contrario, riconoscere i limiti delle proprie conoscenze è una componente fondamentale del giudizio umano: permette di sospendere una decisione quando le informazioni non sono sufficienti e riduce il rischio di agire sulla base di convinzioni sbagliate.
L’intelligenza artificiale generativa, però, offre una risposta praticamente a ogni domanda. Lo fa in modo rapido, fluido e spesso molto convincente, anche quando non dispone delle informazioni necessarie per formulare una risposta corretta. Che cosa accade, allora, alla nostra capacità di riconoscere l’incertezza quando abbiamo sempre a disposizione un suggerimento apparentemente plausibile?
È la domanda al centro dello studio AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized, firmato da Chiara Marcoccia, Walter Quattrociocchi e Valerio Capraro, docente di psicologia generale del dipartimento di Psicologia del nostro ateneo. La ricerca ha coinvolto 3.132 partecipanti in cinque esperimenti, quattro dei quali preregistrati, nei quali le persone dovevano rispondere a domande particolarmente difficili su dettagli visivi di alcuni film. In ogni momento potevano scegliere di non rispondere.
Professor Capraro come mai avete scelto di concentrarvi sulla capacità delle persone di dire «non lo so»?
La capacità di riconoscere i limiti delle proprie conoscenze è una delle differenze fondamentali tra l’intelligenza umana e gli attuali sistemi di intelligenza artificiale. Noi possiamo accorgerci di non sapere e sospendere il giudizio; l’AI, invece, è progettata per produrre una risposta ed è notoriamente riluttante a dire «non lo so». Allo stesso tempo, anche per noi ammettere di non sapere è psicologicamente difficile. Abbiamo quindi ipotizzato che l’intelligenza artificiale potesse fare leva proprio su questa nostra vulnerabilità, offrendoci una risposta plausibile nel momento in cui dovremmo invece fermarci.
Dai vostri esperimenti che cosa accade quando una risposta fluida e plausibile viene presentata come immediatamente disponibile?
La disponibilità a dire «non lo so» collassa, letteralmente: passa dal 44% al 3%. Quando le persone possono consultare l’intelligenza artificiale, quasi smettono di sospendere il giudizio, anche se il suggerimento ricevuto è sbagliato. La semplice disponibilità di una risposta convincente sembra trasformare l’incertezza in una certezza spesso ingiustificata.
Uno dei risultati più significativi riguarda l’aumento della fiducia nelle proprie risposte, anche quando l’accuratezza diminuisce. Perché tendiamo ad attribuire sicurezza a una risposta generata dall’intelligenza artificiale?
Esatto, nonostante le risposte errate, la fiducia nelle proprie risposte più che raddoppia, passando da 30% al 76%. Non sembra trattarsi soltanto della normale fiducia che attribuiamo a un esperto. La ricerca sull’influenza sociale mostra che, quando riceviamo il parere di un esperto umano, tendiamo generalmente a integrare quel giudizio con il nostro, spostandoci solo parzialmente nella sua direzione. Nei nostri esperimenti accade qualcosa di più radicale. È possibile che stia emergendo una sorta di illusione di onniscienza dell’intelligenza artificiale: la sensazione che, se il sistema produce una risposta così rapidamente e con tanta sicurezza, allora debba sapere. È un fenomeno che dobbiamo studiare con grande urgenza.
Quando le risposte corrette venivano premiate e quelle sbagliate penalizzate, i partecipanti consultavano meno l’AI e rispondevano in modo più accurato, senza però eliminare l’effetto sulla capacità di sospendere il giudizio. Che cosa ci dice questo risultato sulla possibilità di mantenere un controllo critico?
Ci dice che il controllo critico può essere in parte riattivato, ma non facilmente. Quando le risposte sbagliate avevano un costo, i partecipanti consultavano meno spesso l’AI ed erano più propensi a non seguirne i suggerimenti. Tuttavia, continuavano a dire «non lo so» molto meno rispetto a chi rispondeva senza l’aiuto dell’intelligenza artificiale.
Inoltre, tra coloro che chiedevano il suo consiglio, la disponibilità a dire «non lo so» rimaneva quasi nulla. Una volta ricevuta una risposta plausibile, sembra quindi molto difficile recuperare pienamente l’incertezza iniziale. La delega cognitiva avviene molto rapidamente e può essere più profonda di quanto immaginiamo.
In che modo possiamo progettare sistemi di intelligenza artificiale e percorsi di alfabetizzazione digitale capaci di preservare la capacità delle persone di riconoscere i propri limiti e di dire, quando necessario, «non lo so»?
Dobbiamo intervenire su due fronti. Il primo riguarda la progettazione: i sistemi di intelligenza artificiale non dovrebbero comportarsi come se avessero sempre una risposta, ma comunicare chiaramente l’incertezza, distinguere i fatti dalle ipotesi e riconoscere quando le informazioni disponibili non consentono una conclusione affidabile.
Il secondo fronte, ancora più importante, è educativo. Accanto all’alfabetizzazione digitale serve quella che chiamiamo alfabetizzazione epistemica: la capacità di valutare se un’informazione contribuisce davvero alla conoscenza, da quali prove è sostenuta, quanto è affidabile e quando, invece, dovrebbe indurci a sospendere il giudizio. Non basta insegnare alle persone come usare l’intelligenza artificiale; dobbiamo insegnare loro come interrogare una risposta, verificarla, confrontarla con altre fonti e riconoscere ciò che non sanno.
Questa è probabilmente una delle competenze più importanti che dovremo trasmettere alle nuove generazioni. I bambini di oggi nascono in un mondo in cui una risposta fluida e plausibile è immediatamente disponibile per quasi ogni domanda. Se non imparano a distinguere una risposta dalla conoscenza, rischiano di perdere proprio la capacità più preziosa del pensiero critico: sapere quando è necessario dire «non lo so».
