Noam Chomsky si è trasformato in una di quelle matrone dei libri che si arrogano il dovere morale di metterti in guardia sui pericoli del mondo. Dopotutto, qualcosa può andare storto, ci sono persone cattive là fuori, non lasciarti ingannare, lupi travestiti da agnello, non è tutto oro ciò che luccica e altre banalità ammonitrici del genere. È come un martello.
In ‘The False Promise of ChatGPT’ pubblicato sul New York Times dell’8 marzo 2023, ripreso dalla stampa italiana (su ‘La stampa’, ‘Domani’, ‘Il Foglio’…) Chomsky accusa l’ultimo prototipo di chatbot di “banalità del male”, “degrado della scienza”, “degrado dell’etica” e aggiunge che possiamo solo “ridere o piangere per la sua popolarità”.
Chomsky si scaglia contro uno dei campi più stimolanti e densi della ricerca scientifica odierna: l’intelligenza artificiale e/o l’apprendimento automatico.
Secondo Chomsky, è il trionfo del plagio al massimo grado. Infatti, milioni di studenti di lingua inglese stanno già utilizzando ChatGPT per fare i compiti. Questo dimostra quanto sia amorale ChatGPT? Che i bambini e gli adolescenti sono immorali? No. Mostra che dovremmo rivalutare i compiti assegnati nelle scuole del XXI secolo.
La frontiera dell’intelligenza artificiale rivela di più su di noi, su ciò che l’apprendimento e l’intelligenza sono realmente nell’essere umano “naturale”, rispetto a ciò che le cassandre chomskyane immaginano di smascherare nell’essere artificiale.
Fare profezie apocalittiche è un vecchio trucco per apparire più intelligenti di quanto si sia. Per quanto intelligenti e palpitanti siano l’opera e tutti gli interventi pubblici di Chomsky, questo suo ultimo articolo è al di sotto della media.
L’articolo è così debole che accusa ChatGPT di non essere in grado di cogliere la sfumatura della frase “John è troppo testardo per parlare”, perché il bot starebbe “navigando nei big data”. L’autore non si è nemmeno preso la briga di fare il test, come quei gesuiti che accusavano Galileo, ma non guardavano nel telescopio. Ebbene, una folla di persone è andata a controllare e ChatGPT, nella stragrande maggioranza delle interazioni, ha colto la sfumatura in questione. Non è stato difficile.
Nemmeno la citazione di Borges all’inizio dell’articolo si sposa bene con lo sviluppo argomentativo adottato da Chomsky e dai due coautori, Ian Roberts e Jeffrey Watumul. Sembra più un ornamento, un gingillo retorico. Eppure Borges, ha scritto tanti testi su biblioteche enormi, futili e inutili che Chomsky avrebbe potuto usare per illustrare la sua accusa. A me, lettore scarno e irregolare di Borges, vengono subito in mente i racconti Funes, o della memoria e La Biblioteca de Babele, che starebbero molto meglio nell’articolo rispetto alla citazione scelta.
Non si può nemmeno dire che Chomsky si sia aggrappato a un sentire della vecchia scuola, che non riesce più a capire le nuove generazioni, che guarda dall’alto in basso le scienze di frontiera, ripetendo “niente di nuovo sotto il sole”.
Non è questo. Non può essere mancanza di aggiornamento. La base teorica per lo sviluppo di ChatGPT si trova nella teoria matematica della comunicazione di Claude Shannon, pubblicata in un articolo del 1948, un decennio prima dei primi lavori accademici di Chomsky. Si presume che l’abbia letto, perché è canonico. E per un’abc dell’analisi sulla modellazione statistica dell’apprendimento del linguaggio, si può consultare il libretto super pertinente di Eugene Charniak (MIT press, 1993) .
Elenco alcuni punti caldi dalle accuse di Chomsky all’Intelligenza Artificiale:
1) Non sarebbe scienza, o sarebbe irrilevante per la scienza, ma SOLO applicazione pratica ingegneristica;
2) Verrebbero applicati SOLO metodi induttivi di forza bruta a un enorme insieme di dati per produrre le risposte, ma la macchina non ne comprende il significato, non interpreta i dati, non aggiunge valore di conoscenza;
3) Lavora SOLO con la correlazione e non con la causalità, e quindi non raggiunge uno status scientifico;
4) Non si eleva al metodo umano di apprendimento e utilizzo del linguaggio che è significativo, creativo ed etico, mentre quello della macchina sarebbe SOLO meccanico, vuoto di significato;
Rispondo punto per punto perché il SOLO sopra non rimanga SOLO:
1) Sebbene sia scienza applicata, l’ingegneria non cessa di essere scienza che si occupa di come funzionano i sistemi, cosa fanno e a cosa servono. In questa attività pratica, dà origine agli sviluppi delle scienze teoriche e dei loro modelli. Spesso ingegneri e inventori vengono prima dei ricercatori che, a posteriori, sfruttano le scoperte e teorizzano su cosa hanno fatto, su ciò che ha funzionato o non ha funzionato.
Chomsky sembra dimenticare capitoli importanti della storia della scienza. Ad esempio, che la termodinamica non ha preceduto le prime macchine a vapore e il ciclo di Carnot. Non è che i fisici siano arrivati e abbiano insegnato agli ingegneri come costruire i motori. Piuttosto, i tecnici della rivoluzione industriale hanno preceduto le formulazioni e la modellazione della termodinamica.
Un altro esempio è la teoria monetaria: praticata da mercanti, banchieri e finanzieri prima che qualsiasi economista modellasse la logica del denaro o ne guidasse la pratica.
Ho fatto due esempi di anticipazione, ma in generale l’operazione è intrecciata e concomitante, in un circuito virtuoso.
Come se non bastasse, dalla fine degli anni ’40, la svolta cibernetica verso l’IA ha aperto uno spazio transdisciplinare, collegando scienze esatte, umane e biologiche. Il titolo dello chef d’œuvre di Norbert Wiener, sempre del 1948, è: “Cybernetics: or control and communication in the animal and the machine”.
Chomsky che fa una difesa purista della scienza teorica nel 2023 denota un’ignoranza di base di almeno 80 anni di ricerca e sviluppo in questo campo.
2) Si può dire quanto si vuole che il chatbot non capisca quello che dice, che non capisca “come un essere umano” capisce, o che stia solo densificando le frasi con funzioni di probabilità. Se, leggendo le risposte, non puoi differenziare ciò che fa il bot da ciò che fa una persona umana, la differenza non è rilevante. La macchina in questione supera il test di Turing se non si riesce più a distinguere, in un test informato e complesso, tra le sue risposte e le risposte umane. Non sto dicendo che ChatGPT attualmente superi il test di Turing. Tuttavia, la recente evoluzione dei modelli linguistici, associati a migliori algoritmi e maggiore volume di dati, si sta muovendo in questa direzione.
Quello che accade all’interno del silicio, il grado di “coscienza” immanente nel processo, è una domanda interessante; tuttavia, qualunque sia la risposta, non squalifica la produzione di risultati, come sembra credere Chomsky.
3) L’obiezione che la macchina lavora solo con la correlazione e non con la causalità è l’unica pertinente (l’esempio che fa Chomsky è quello della mela che cade perché c’è la forza di gravità), ma presuppone che l’intelligenza umana sia in grado di distinguere facilmente tra causalità e correlazione. Non è così. È un problema generale, trasversale alla scienza e alla ricerca più avanzata. È vero, tuttavia, che gli esseri umani hanno accesso a un senso comune e generalista, in grado di ridurre notevolmente la gamma possibile di inferenze causali. Tuttavia, questo non è sempre un vantaggio per l’intelligenza umana, poiché il buon senso può essere anche una prigione, impedendoci di osare soluzioni inedite a vecchi problemi. Pensare in modo creativo significa, molte volte, affrontare il buon senso, fare inferenze prima impensabili e, attraverso il ragionamento abduttivo, rompere il modo di pensare abituale e stabilito. In questo senso, l’intelligenza artificiale può persino offrire intuizioni sulle relazioni tra eventi nella realtà che semplicemente non potremmo vedere, a causa della pietrificazione di un certo modo di vedere. Tuttavia, ciò non significa che un modello algoritmico trasformativo del linguaggio non possa essere addestrato a diventare più selettivo, ad abbracciare la distinzione correlazione/causalità. Questa obiezione di Chomsky è, in fondo, un limite produttivo, in quanto porta ricercatori e ingegneri ad approfondire non solo il modello matematico coinvolto, ma anche le sottili e metafisicamente complicate distinzioni tra correlazione e causalità.
4) Sugli aspetti etici, creativi e significativi del linguaggio vale la pena ricordare il dibattito tra Michel Foucault e Noam Chomsky nel 1971 sulla natura umana.
Nel dibattito Chomsky sostiene che la natura umana contiene, nel suo codice genetico, invarianti strutturali che ordinano una grammatica universale. Foucault, invece, sostiene che abitiamo un terreno epistemologico che condiziona ciò che può essere detto e le relazioni tra ciò che è detto e ciò che non è detto, tra conoscenza e potere, senza appoggiarsi su nulla di universalmente valido.
Per così dire, Foucault storicizza il soggetto trascendentale kantiano, cioè nega l’unità di un essere umano che sarebbe emerso come essere muto e avrebbe poi acquisito il linguaggio. In Foucault, la stessa nozione di natura umana è un costrutto epistemico specifico e delicato, peraltro caduto in disuso con il passaggio all’età moderna (la cosiddetta “morte dell’uomo”, che succede a quella di Dio).
Ciò non significa che la posizione di Foucault nel dibattito citato corrisponda a quella del relativismo malleabile, rispetto al quale Chomsky sarebbe un convinto universalista. Chomsky assume infatti una posizione di dogmatismo della natura umana, dai contorni universali, mentre Foucault, filosofo ugualmente interessato all’etica e al regime della veridizione, risale alle condizioni trascendentali che consentono l’emergere nella storia di qualcosa come un soggetto universale Uomo (finché un giorno svanirà). Con l’opera di Foucault riusciamo meglio a comprendere come il superamento del test di Turing ci porti a una realtà epistemica diversa, in cui l’agire uomo-macchina diventa centrale nel mondo del lavoro, nelle relazioni interpersonali e nel rapporto di te stesso con te stesso. Invece di un’etica universale desunta dall’umanità di ognuno, un ethos, una nuova forma di vita legata al mondo macchinico in cui siamo trascinati ormai da alcuni decenni, e con cui dovremo fare i conti.
Non c’è da stupirsi che Chomsky, intellettuale libertario e inventivo del Novecento, sia diventato un conservatore tout court. Altre sue manifestazioni recenti, in campo politico, ricadono in questo stesso problema: ciò che 40 anni fa sembrava ardito e sovversivo, ripetuto oggi, in un nuovo contesto, suona solo melodrammatico.
