Posso fidarmi dell’IA come mi fiderei di un esperto?

In breve

Conversare con un’IA può produrre risposte pertinenti, contestualizzate e operative, attingendo a un repertorio di conoscenze e soluzioni che nessun singolo esperto possiede. In alcuni casi, ai fini pratici, il suo contributo può essere equivalente o persino migliore di quello di un esperto umano. Ma possiamo fidarci delle sue risposte nello stesso modo? Non necessariamente: l’IA può essere competente senza essere responsabile. Lavora sulla rappresentazione del problema che le forniamo e non prende in carico il nostro caso né risponde delle conseguenze delle decisioni che prendiamo. La questione, allora, non è semplicemente se fidarsi o non fidarsi dell’IA, ma quanta fiducia possiamo accordarle, per quali problemi e a quali condizioni. Più le sue risposte diventano convincenti e utili, più diventa importante saperlo valutare.

---

In questo articolo intendo cercare una o più risposte a questo problema:

Che cosa cambia quando, invece di consultare un esperto umano, conversiamo con un’IA che è capace di comportarsi linguisticamente come un esperto?

Posso fidarmi di un’IA come mi fiderei di un esperto?

La domanda non è affatto teorica.

Conversiamo ormai con sistemi di intelligenza artificiale per affrontare problemi molto diversi. Possiamo chiedere come riparare lo scarico del lavello, come configurare un programma, come interpretare un documento tecnico. Possiamo chiedere informazioni su un dolore acuto o discutere una situazione di fragilità psicologica o affettiva.

Sono situazioni evidentemente molto diverse e non avrebbe senso attribuire alle risposte lo stesso grado di fiducia. Ma hanno qualcosa in comune: l’IA può rispondere in modo pertinente, contestualizzato e convincente. E qualche volta può effettivamente risolvere il problema.

È proprio questo che rende interessante la questione.

Un repertorio di conoscenze e soluzioni enorme

Quando consultiamo un esperto ci rivolgiamo a qualcuno che possiede conoscenze ed esperienza in un determinato dominio. Ci affidiamo a lui proprio perché presumiamo che sappia più di noi e, soprattutto, che la sua esperienza gli permetta di riconoscere il problema e individuare una soluzione appropriata.

L’IA si trova in una condizione molto diversa, ma dispone di una risorsa formidabile: può attingere a un repertorio vastissimo di conoscenze, problemi descritti, procedure, spiegazioni e soluzioni.

Non è soltanto una questione di quantità.

Questo repertorio può essere interrogato attraverso la conversazione. Possiamo chiedere una soluzione e poi domandarne altre. Possiamo farci indicare vantaggi e svantaggi, chiedere che venga messa in discussione la prima risposta, cercare controesempi, individuare ciò che potrebbe andare storto, domandare quali informazioni mancano.

Possiamo inoltre continuare a fornire informazioni e ottenere risposte progressivamente più contestualizzate.

Nessun singolo esperto umano dispone di un repertorio altrettanto ampio.

Per questo sarebbe riduttivo affrontare il problema partendo dall’idea che la risposta dell’esperto sia necessariamente migliore di quella dell’IA. Non lo sappiamo.

In alcuni casi la soluzione proposta dall’IA potrebbe essere altrettanto buona. In altri potrebbe persino essere migliore.

E questo non vale soltanto per la soluzione di problemi tecnici. Se una spiegazione mi fa comprendere qualcosa che non comprendevo, un’interpretazione mi permette di vedere una situazione diversamente o una conversazione mi aiuta a riorganizzare un problema, l’effetto prodotto è reale. Il valore pragmatico di quel contributo non viene meno perché a produrlo è stata un’IA.

E se seguendo le indicazioni dell’IA riesco a riparare lo scarico del lavello, dal punto di vista pratico il problema è risolto. Poco importa che la soluzione sia arrivata da un idraulico o da una conversazione con una macchina.

Una conversazione che assomiglia a quella con un esperto

C’è però qualcosa di particolare nel modo in cui riceviamo queste risposte.

L’IA non ci presenta semplicemente una pagina contenente informazioni. Conversa con noi.

Tiene conto di quello che abbiamo detto, ci fa domande, modifica le ipotesi, spiega, obietta, propone alternative. Se le segnaliamo che una soluzione non ha funzionato, può formulare una nuova ipotesi.

Questo comportamento ha molte delle caratteristiche che normalmente utilizziamo per riconoscere una persona competente.

E qui compare un primo problema:

la qualità della conversazione genera una percezione di competenza; la percezione di competenza genera fiducia; ma la qualità linguistica della risposta non garantisce, da sola, la qualità epistemica della risposta.

Una risposta può essere chiara, articolata, perfettamente coerente con quello che abbiamo raccontato e tuttavia essere sbagliata.

Naturalmente può sbagliare anche un esperto.

La differenza, quindi, non può essere semplicemente questa: l’esperto sa, l’IA può sbagliare.

Che cosa significa fidarsi di un esperto?

Quando ci rivolgiamo a un esperto non sappiamo in anticipo se ci darà la risposta giusta. Se lo sapessimo, probabilmente non avremmo bisogno di lui.

Ci affidiamo proprio perché attribuiamo valore alla sua competenza e alla sua esperienza.

L’esperto dovrebbe sapere non soltanto quali soluzioni esistono per una certa tipologia di problema, ma anche quali elementi osservare per capire quale problema abbia realmente davanti.

Questa distinzione diventa importante quando confrontiamo la sua posizione con quella dell’IA.

Posso descrivere molto dettagliatamente un problema a un sistema di IA. Posso mostrargli fotografie, fornirgli documenti, rispondere alle sue domande. Attraverso la conversazione la risposta può diventare estremamente specifica.

Ma c’è un limite che non dovremmo perdere di vista.

L’IA conosce il mio caso attraverso la rappresentazione che riesco a portare nella conversazione.

Potrei non fornire un’informazione decisiva semplicemente perché non so che è decisiva. Potrei interpretare come irrilevante proprio il dettaglio che permetterebbe a un esperto di riconoscere diversamente il problema.

Per questo possiamo dire:

L’IA tratta il caso come rappresentazione di un problema; l’esperto tratta il problema come caso concreto di cui si assume la responsabilità.

Non significa che l’esperto abbia necessariamente ragione e l’IA torto. Significa che occupano due posizioni diverse rispetto al problema.

Una risposta competente senza responsabilità

C’è poi una differenza ancora più netta.

L’IA può essere competente senza essere responsabile.

Posso ricevere dall’IA una risposta eccellente. Posso anche ricevere una risposta migliore di quella che mi avrebbe dato un determinato professionista.

Ma l’IA non si assume la responsabilità della decisione che prenderò sulla base di quella risposta.

Sono io che devo stabilire se il problema è stato rappresentato adeguatamente, se la soluzione è pertinente alla mia situazione e se posso applicarla.

Con un professionista il rapporto è diverso.

Un medico, un ingegnere, uno psicologo o un altro professionista non dovrebbe limitarsi a fornire informazioni sul tipo di problema che gli presentiamo. Entro i confini della propria professione prende in carico un caso, formula un giudizio e assume una responsabilità professionale sulle proprie valutazioni e sui propri interventi.

Anche il professionista può sbagliare. La responsabilità non garantisce la correttezza della risposta.

Ma modifica il significato del nostro affidarci a lui.

Una fiducia diversa, non necessariamente minore

Possiamo allora tornare alla domanda iniziale.

Posso fidarmi di un’IA come mi fiderei di un esperto?

Probabilmente no, se con “come” intendiamo nello stesso modo.

Ma questo non significa che una conversazione con l’IA sia necessariamente meno utile o persino meno affidabile di una conversazione con un esperto.

Significa qualcosa di diverso:

la sua affidabilità deve essere costruita e verificata in modo diverso.

Il punto diventa particolarmente evidente quando dobbiamo passare dalla risposta all’azione.

Se la soluzione è facilmente verificabile, se posso tornare indietro, se un eventuale errore produce conseguenze modeste, posso permettermi di utilizzare direttamente una buona indicazione dell’IA.

Se invece non sono in grado di verificare la risposta, se non possiedo le competenze per riconoscere un errore, se la decisione è difficilmente reversibile o se le conseguenze possono essere importanti, cambia il grado di fiducia che posso ragionevolmente accordarle.

Non perché sappiamo che l’IA abbia torto.

Perché non possiamo permetterci di scoprire dopo che aveva torto.

C’è inoltre un paradosso. L’IA rende accessibili anche al non esperto conoscenze e soluzioni molto sofisticate, ma proprio chi possiede minori competenze può essere meno attrezzato per riconoscere quando una risposta apparentemente convincente non è appropriata al proprio caso. L’IA riduce la competenza necessaria per accedere a una soluzione, ma non necessariamente quella necessaria per giudicare se quella soluzione possa essere applicata.

Qualche avvertenza prima di applicare una risposta

Non credo che la conclusione debba essere: non fidatevi dell’IA e rivolgetevi sempre a un esperto.

Sarebbe una conclusione rassicurante, ma poco realistica. Significherebbe anche rinunciare a una risorsa che può offrire contributi di grande valore.

Serve piuttosto un supplemento di prudenza.

Prima di trasformare una risposta dell’IA in una decisione o in un’azione, può essere utile domandarsi:

• ho rappresentato adeguatamente il problema oppure potrebbero esserci elementi importanti che non so di dover considerare?
• sono in grado di valutare la plausibilità della soluzione?
• posso verificarne gli effetti?
• se non funziona, posso tornare indietro?
• saprei accorgermi che la risposta è sbagliata?
• quali sarebbero le conseguenze di un errore?
• ho bisogno soltanto di informazioni e possibili soluzioni oppure ho bisogno che qualcuno competente valuti proprio il mio caso?
• sono disposto e sono in grado di assumermi la responsabilità della decisione?

Non occorre porsi tutte queste domande ogni volta che chiediamo qualcosa all’IA.

Se stiamo cercando di capire perché lo scarico del lavello perde, probabilmente possiamo permetterci una certa disinvoltura.

Se stiamo decidendo che cosa fare davanti a un dolore acuto o affidiamo alla conversazione una situazione di particolare fragilità personale, il supplemento di prudenza deve essere ben diverso.

Fidarsi non significa consegnare la decisione

L’IA ci mette a disposizione qualcosa che fino a pochissimo tempo fa non avevamo: un interlocutore sempre disponibile, capace di mobilitare un repertorio enorme di conoscenze e soluzioni e di discuterle con noi in relazione al problema che gli presentiamo.

Sarebbe un errore sottovalutarne il valore.

Sarebbe però un errore anche trasformare la qualità della conversazione in una delega automatica di fiducia.

Forse, allora, la domanda con cui abbiamo iniziato può essere formulata diversamente.

Non soltanto:

Posso fidarmi dell’IA come mi fiderei di un esperto?

Ma:

Per questo problema, in queste condizioni e con queste possibili conseguenze, quanta fiducia posso permettermi di accordare alla sua risposta?

È una domanda meno semplice.

Ma proprio perché le risposte dell’IA stanno diventando sempre migliori, diventa sempre più importante imparare a porsela.