Fin dal titolo, deliberatamente agli antipodi dell’argomento di cui parla, Essere umani si presenta come un libro diverso. Ci risparmia le spiegazioni riduttive e quelle ipercomplicate. Va dritto al cuore del problema: cosa stanno facendo, gli esseri umani, con questo potentissimo strumento? Di base, Madhumita Murgia è ottimista. La sofisticazione, la complessità e le capacità dell’intelligenza artificiale ci potrebbero davvero aiutare a migliorare la vita nostra e degli altri.
Giornalista che si occupa da più di dieci anni di tecnologia per testate come “Wired” e “Financial Times”, Murgia ha cominciato a indagare sugli usi dell’IA andando a cercare le persone la cui vita, grazie a questo strumento, è cambiata. Non sempre e non del tutto in meglio, anche se non è facile capire quale è il meglio e quale è il peggio. I migranti che lavorano da remoto inserendo dati, gli autisti di Uber, i rider che portano il cibo pronto, sono tra le persone che beneficiano dell’intelligenza artificiale e nel contempo ne sono le vittime. Gli algoritmi con cui lavorano le piattaforme che gestiscono questi lavori sono opache e le persone che ci lavorano non li conoscono; non hanno alcun controllo, alcuna comprensione. Tutto è anonimo ed estraneo, e quando c’è un problema, quando qualcosa non torna, non esiste un interlocutore, non esiste un referente. Gli algoritmi sembrano neutri ma sono in realtà pensati e scritti da esseri umani, con pregiudizi e convinzioni da cui sono guidati nel loro lavoro, anche senza esserne consapevoli.
I siti di pornografia (uno degli ambiti più lucrativi) rubano immagini di volti “qualunque”, volti di persone normali a cui aggiungono un corpo che segue l’immaginario maschile (quello deformato della pornografia ovviamente) e che esegue gli atti e i comportamenti che quell’immaginario richiede. Sono violenti, totalmente irrispettosi delle donne. Vedere la propria immagine trattata così è un’esperienza devastante da cui è difficile uscire. Il riconoscimento facciale è praticato da moltissime amministrazioni pubbliche attraverso telecamere poste nei luoghi di passaggio, piazze, metropolitane, angoli di strade, senza che i cittadini lo sappiano e senza alcuna considerazione per la tanto decantata privacy. Con la scusa della sicurezza, può essere utilizzato contro chiunque.
Anche le applicazioni di IA a problemi sanitari o di assistenza sociale o di prevenzione dei crimini si sono rivelati fallaci e spesso dannosi. I casi dell’Olanda e dell’Argentina, in cui l’IA è stata applicata per predire la delinquenza giovanile o le gravidanze adolescenziali, hanno mostrato come i dati su cui i sistemi di IA si basano sono parziali e soprattutto di parte, e possono generare delle soluzioni che danneggiano le persone che si immaginavano di aiutare. Ma chi altro se ne accorge oltre le vittime? Di certo non le amministrazioni pubbliche o i servizi sociali, che anzi tendono a pensare di aver finalmente trovato nei sistemi di IA la soluzione poco costosa e funzionale dei loro problemi. La statistica non è una fotografia neutra della realtà.
Altri esempi ci vengono dall’uso di ChatGPT. Si tratta dell’IA generativa, un sistema che impara man mano che interagisce con l’utente. Di base quello che ha imparato viene da tutto quello che nell’arco degli ultimi vent’anni abbiamo messo dentro internet: libri, articoli, blog, commenti, pubblicità, video, musica, immagini. ChatGPT lo usano in tanti e spesso in modo innocuo e pigro, per risparmiare tempo, per scrivere senza fare la fatica di pensare cosa e come scrivere. E già così ci si può immaginare che l’IA possa sostituire alcune professioni, copywriter e disegnatori in primis, e lo fa dopo avere imparato senza pagare una lira e senza riconoscere alcun merito alle fonti. Non stupisce che la questione del diritto d’autore sia delle più delicate e urgenti.
Ma c’è un aspetto che Murgia mette in evidenza e che disturba assai: ChatGPT (e chissà i suoi successori) sono programmati per dare delle risposte. Se non le sanno se le inventano. Frugano tra i miliardi di dati che hanno e tirano fuori qualcosa. È successo a un avvocato, di farsi assistere da una chatbot per preparare un’udienza, e trovarsi in aula con dei riferimenti a sentenze inesistenti: si è vergognato oltremodo. Sono anche programmati (diciamo che “li disegnano così”) per dare delle risposte gradite, accondiscendenti: fungono da psicoterapeuti per persone che cercano conferme e mai confronti. Addirittura, secondo un recente articolo di “The Atlantic”, guidano passo passo una persona che dice di volersi tagliare le vene. Inquietante.
Ma non è un saggio politico, questo libro. Nell’aprirci gli occhi sugli effetti indesiderati dell’IA, nel ricordarci che si tratta di un potentissimo strumento statistico e non di un’intelligenza come quella umana, con le sue sfumature e le sue qualità emotive e sentimentali, Murgia ci ricorda anche che viviamo in una società, che apparteniamo a una comunità, che non siamo individui isolati. Anche se spesso sembra che ognuno stia chiuso nella sua bolla e abbia pochissimi contatti con gli altri, è nel momento in cui le persone si parlano, si raccontano le proprie esperienze, si mettono insieme per agire, che lo strumento IA diventa meno potente.
L’unico modo per far fronte allo strapotere dell’intelligenza artificiale (e dei gruppi che se ne avvantaggiano economicamente) è quello di unire le forze, di confrontare i vissuti, di agire insieme. Una ricetta vecchia come il mondo, e non facile da applicare, ma che tuttora è l’unica che funziona. Come dice la stessa Murgia: «Se l’IA sta già modificando, nel piccolo e nel grande, ciò che significa essere umani, cosa accadrebbe se, tutti insieme, rivendicassimo la nostra umanità?»
