Sulla base di cosa dovremmo fidarci dell’IA?
Sei qui: Ask System → L’Intelligenza Artificiale → Affidabilità
Non dovremmo fidarci dell’IA semplicemente perché risponde bene, sembra competente o ha funzionato molte volte in passato. Ma non sarebbe ragionevole neppure partire dal principio opposto e considerare inaffidabile qualsiasi cosa produca.
La fiducia nell’IA dovrebbe essere proporzionata al compito, alle conseguenze di un eventuale errore e alla possibilità che abbiamo di controllare il risultato.
Non tutte le richieste richiedono la stessa fiducia
Se chiediamo all’IA di proporre dieci titoli per un articolo, non abbiamo bisogno di sapere se le sue proposte sono “vere”: possiamo semplicemente valutarle e scegliere quelle che ci sembrano migliori.
La situazione cambia se le chiediamo un’informazione storica, l’interpretazione di una norma, un dato scientifico o qualcosa che può influire su una decisione importante. In questi casi una risposta sbagliata può avere conseguenze e la nostra possibilità di riconoscere l’errore diventa decisiva.
La stessa IA può quindi essere utilizzata con grande tranquillità in un’attività e richiedere molta cautela in un’altra. Non esiste un unico livello di fiducia appropriato per tutti gli usi.
Conta anche quanto siamo capaci di controllarla
C’è poi un problema meno evidente. Possiamo utilizzare con maggiore sicurezza l’IA nei campi nei quali possediamo conoscenze sufficienti per accorgerci che qualcosa non torna, formulare domande migliori e verificare ciò che ci viene proposto.
Quando invece chiediamo all’IA qualcosa che non conosciamo affatto, possiamo trovarci nella situazione più delicata: abbiamo maggiormente bisogno del suo aiuto proprio quando siamo meno capaci di valutarlo.
Per questo la conoscenza personale non diventa inutile quando possiamo accedere all’IA. Al contrario, una parte di ciò che sappiamo costituisce la base che ci permette di interrogare, interpretare e controllare la conoscenza che otteniamo attraverso di essa.
Fidarsi non significa rinunciare al controllo
La fiducia può inoltre aumentare quando il risultato dell’IA entra in un processo nel quale possiamo confrontarlo con altre informazioni, controllare le fonti, mettere alla prova le conclusioni o verificare direttamente le conseguenze.
In altri casi possiamo utilizzare l’IA non come autorità alla quale chiedere la risposta corretta, ma come interlocutore che propone possibilità: ipotesi, alternative, obiezioni, spiegazioni o modi differenti di guardare un problema. Qui la sua utilità può essere elevata anche senza attribuirle un’elevata affidabilità fattuale.
La fiducia nell’IA non dovrebbe dipendere da quanto la risposta appare convincente, ma da quanto conosciamo il compito, possiamo valutare il risultato e siamo in grado di controllare le conseguenze di un eventuale errore.
La domanda quindi non è semplicemente «posso fidarmi dell’IA?». È più utile chiedersi: «per questa attività, fino a che punto posso fidarmi e quali controlli devo mantenere?»
È una forma di fiducia condizionata e graduata. Possiamo delegare alcune operazioni quasi completamente, utilizzare altre risposte come punto di partenza e sottoporre altre ancora a una verifica rigorosa. Il criterio non è la fiducia nella macchina in generale, ma la qualità del rapporto che costruiamo tra ciò che fa la macchina e ciò che continuiamo a controllare noi.
