11 Nov La scimmia artificiale e l’intelligenza del narrare: da Lin Carter a ChatGpt, breve storia delle AI in letteratura

Posted at 09:08h in Banchina by
2 Likes

 

di  Nerio Vespertin

Volete irritare la critica letteraria di mezzo mondo?
Bene, allora mettete un certo numero di scimmie davanti a delle macchine da scrivere e lasciatele libere di battere a caso, quindi dichiarate pubblicamente che dopo un tempo abbastanza lungo, quello stesso branco di primati bercianti sarà  in grado di scrivere un capolavoro della letteratura internazionale. Allo stesso livello de “La divina commedia”. A questo punto, quando buona parte del mondo accademico sarà pronto a saltarvi alla gola, sorridete e dichiarate: “è la legge dei grandi numeri”.

Se questa vi sembra solo una sciocca provocazione, è possibile che vi siate persi la cosiddetta “teoria della scimmia instancabile”, enunciato che Arthur Eddington diede di un celebre teorema matematico nel 1929. Ovvero, la spiegazione del lemma di Borel-Cantelli, matematico e politico francese del secolo scorso, anche detta “teoria dei grandi numeri” . Per intenderci, il principio che dice che prima o poi, dato un tempo virtualmente infinito, si verificheranno anche le ipotesi meno probabili. Come ad esempio: che un fulmine ci cada addosso durante una splendida giornata di sole. O che un branco di scimmie semi ammaestrate componga un’opera d’arte internazionale.

Assurda o meno, questa teoria ha viaggiato in lungo e in largo, conoscendo una fortuna incredibile (per essere stato il teorema di un matematico francese). Da Jonathan Swift a Jorge Luis Borges, molti sono gli autori celebri che hanno sfruttato l’idea delle scimmie per stupire, provocare e sorprendere i propri lettori. Fra i tanti anche un quasi sconosciuto autore statunitense degli anni ‘60. Un autore che malgrado la poca fortuna, ha saputo spingere la teoria più in là, anticipando incredibilmente i nostri tempi.

 

IL BRANCO DI SCIMMIE MECCANIZZATO: LA PROVOCAZIONE FANTASCIENTIFICA DI LIN
CARTER
E in effetti la fama di Lin Carter (1930-1988), curatore editoriale e critico, oltre che scrittore, è sempre rimasta confinata nel mondo rarefatto del genere fantastico, non raggiungendo che di rimbalzo il panorama internazionale. Nonostante i suoi racconti siano stati accostati a capolavori del calibro di Asimov, Clark e Brown, proponendo visioni e intuizioni profonde. Racconti come “Intervista in due tempi” (“Uncollected works” – pubblicato inizialmente su “The Magazine of Fantasy and Science Fiction”, 1965) in cui l’idea delle scimmie che battono i tasti di una macchina da scrivere va oltre il mero concetto, rivestendosi di valenza ingegneristica.

Cosa succederebbe – recita la storia – se al posto di un esercito di primati, venisse utilizzata una macchina intelligente? Una macchina capace, cioè, non solo di selezionare una combinazione semi casuale di caratteri, ma anche di evitare col tempo quelle combinazioni ritenute prive di senso. Come nello stile dei racconti fantascientifici, anche in “Intervista doppia” il lettore viene messo di fronte a una condizione all’apparenza assurda, resa possibile dalla tecnologia: dopo alcune decine d’anni di lavoro ininterrotto, la macchina non solo produce opere sensate, ma addirittura simili nello stile a quelle che l’umanità produsse ai suoi albori. E non solo.

Via, via che il lavoro prosegue, la macchina affina la qualità del testo, facendo evolvere le sue opere dallo stile classico a quello rinascimentale, dal rinascimentale a quello romantico, fino a raggiungere il moderno e il contemporaneo. Addirittura, dopo soli vent’anni di lavoro, la macchina supera l’uomo e i tempi correnti, giungendo a proporre opere che anticipano il futuro.

 

DALLA FANTASCIENZA ALLA REALTÀ: L’INVASIONE DELLE AI NEL MONDO
DELL’EDITORIA

Se leggendo la storia di Lin Carter avete sorriso, considerandola solo un’ingenua favoletta per nerd, allora forse vi siete persi le ultime novità nell’ambito della tecnologia informatica. In particolar modo il boom delle intelligenze artificiali (o più brevemente AI, acronimo di Artificial Intelligence) che sta rivoluzionando il mondo editoriale. Dalla generazione di bozze di testi narrativi, alla redazione di analisi di mercato, sempre più case editrici e autori stanno facendo uso di questa tecnologia per ottimizzare il proprio lavoro. Scrittori come Robin Sloan (autore di “Mr. Penumbra’s 24-Hour Bookstore”) che ne ha fatto uso per co-scrivere un racconto breve, facendo generare parti di testo ad un modello di AI. O come Ross Goodwin, che ha montato un AI (“Wordcar”) su un’auto durante un viaggio negli Stati Uniti, facendo produrre dei testi che poi ha raccolto per produrre un intero libro (“1 the Road”). O ancora come Alicia Eler, che ha collaborato con un’AI per scrivere poesie e racconti brevi, esplorando come questa possa influenzare il processo creativo e la narrazione. E non solo.

Le AI sono utilizzate sempre più spesso nel processo editoriale anche per effettuare quei lavori meno meccanici e considerati fino ad ora appannaggio della mente umana. Lavori come stendere una prima traduzione da un’altra lingua o eseguire una correzione grammaticale e sintattica. E se credete che nessuna macchina potrà mai emulare la mente umana, è bene considerare che cosa sia effettivamente in grado di fare una AI prima di correre a giudizi consolatori…

Come suggerito nel racconto di Lin Carter, non ci troviamo davanti a una scimmia che preme bottoni a caso, bensì davanti a un processo molto evoluto, in grado di riconoscere i propri errori e, una volta segnalati, evitarli per il resto della sua “vita”. Al pari degli esseri umani che cominciano a lavorare in un settore, commettendo errori e imparando da questi, anche tali processi sono in grado di sviluppare nel tempo un vero e proprio modus operandi, frutto di continue migliorie. E se un lavoratore umano arriva a raffinarlo in venti o trent’anni, per poi ritirarsi e costringere un’azienda ad assumere nuove risorse e ricominciare tutto da capo, un’intelligenza artificiale (che fondamentalmente è un programma sempre attivo su di un computer), non andrà mai in pensione, continuando a imparare e migliorare per sempre.

Parafrasando il principio di Émile Borel: dopo un tempo virtualmente infinito, non c’è limite a quello che può succedere…

 

DALLE RETI NEURALI AL MACHINE LEARNING: L’UOMO CHE IMITA LA NATURA PER
INSEGNARE A UNA MACCHINA A IMITARE L’UOMO
Ma come siamo arrivati a questo punto? Come è potuto succedere che una macchina abbia imparato a scrivere
come un essere umano?

Prima di tutto le AI non sono spuntate fuori all’improvviso, come in un racconto di fantascienza, ma sono il frutto di un lungo lavoro di ricerca. Stiamo parlando di un progetto il cui germe nasce nel 1950 e che ha coinvolto nel tempo gli istituti più avanzati del globo, spaziando dall’ambito delle tecnologie informatiche ed elettroniche, medico neurologico, fino a coinvolgere esperti di ambiti meno materiali e più astratti, come quello psicologico e filosofico. Secondo molti, l’anno zero delle macchine intelligenti coincide con l’anno della pubblicazione dell’articolo “Computing Machinery and Intelligence”, dell’ormai celeberrimo matematico inglese Alan Turing. Turing, a conclusione del suo lungo lavoro svolto per la difesa, culminato nella decodifica di “Enigma” (il codice crittografico utilizzato dalla Germania durante la II guerra mondiale), arrivava a definire un test pratico in grado di determinare se una macchina potesse essere considerata o meno intelligente. È importante constatare come sin da questo testo che per primo parla di “macchina intelligente”, il principio di definizione d’intelligenza sia fondato sulla capacità del tutto umana di poter distinguere fra comportamenti “umani” e non. Non un concetto astratto (“che cosa è l’intelligenza”), bensì un principio pratico (“come posso riconoscere l’intelligenza”).

Da allora la ricerca ha conosciuto alti e bassi, concentrandosi ora sulla logica matematica, ora sull’elaborazione
di algoritmi d’apprendimento, con un andamento spesso irregolare nei finanziamenti, che ne ha rallentato notevolmente l’evoluzione. Fino al punto di svolta, negli ultimi vent’anni, con l’introduzione delle cosiddette ‘reti neurali artificiali’. Come nella migliore tradizione della letteratura fantastica, l’uomo imita dio provando a copiare il suo lavoro: le reti neurali artificiali non sono altro che una trasposizione, in termini tecnologici, della struttura del cervello umano. Tali reti sono composte da strati di nodi, che al pari dei neuroni, sono strettamente interconnessi fra loro: ogni nodo riceve un’informazione in ingresso e la trasmette, rielaborata, ai nodi successivi. Attraverso un processo chiamato
backpropagation, la rete quindi si “aggiusta”, ottimizzando le connessioni tra i nodi, al fine di migliorare le elaborazioni fornite. In una parola: sbagliando, impara. Esattamente come avviene nel cervello biologico.

 

CHI INSEGNA AGLI INSEGNANTI: IL LUNGO LAVORO D’EDUCAZIONE DI UNA AI
Dunque, un’AI non è un oggetto magico o (citando ancora la letteratura fantastica) uno spirito incorporeo, dotato di volontà propria. Un’AI non è altro che un lento e faticoso processo di raccolta e ottimizzazione dei dati. Per capire come una di queste strutture funziona, entriamo nel dettaglio di quel lungo lavoro che gli sviluppatori di GPT-4 hanno affrontato per proporre i loro prodotti sul mercato.

Un esempio molto semplice: volete essere in grado di produrre testi descrittivi sulla natura selvatica dell’Australia e pertanto “affittate” un AI per fare questo lavoro per voi. Il primo step obbligatorio per giungere al vostro obiettivo sarà la raccolta dati. Ovvero, acquisirete un numero rilevante di libri sull’argomento. Testi narrativi, opere poetiche, manuali tecnici: qualunque genere d’informazione a riguardo sarà valida, purché coerente con l’argomento ricercato (l’Australia). A questo punto dovrete trascorrere pazientemente un bel po’ di pomeriggi a inserire i testi nella macchina, avendo cura di specificare che tipo di testo è (tecnico, descrittivo, poetico, ecc.). Dopo questa lunga preparazione, seguirà un altro periodo di attesa, in cui il computer elaborerà i dati e comincerà a produrre i suoi primi modelli, ovvero ‘esempi organizzati’ dei testi che volete che produca. Questi primi modelli ovviamente saranno potenzialmente assurdi (la macchina imita i testi inseriti, ma non ha cognizione del contenuto). A questo punto dovrete trascorrere pazientemente altri pomeriggi a leggerli e validarli, accettando quelli sensati e rifiutandone altri. Dopo questa lunghissima preparazione, diciamo anche di settimane, se non di mesi, la macchina sarà finalmente pronta per elaborare testi abbastanza buoni, capaci di produrre i risultati desiderati.

Ancora una volta, non si tratta di una scoperta sensazionale: il metodo appena descritto non è altro che il processo d’apprendimento del cervello umano. In iter che di divide fra (1) Raccolta dei Dati, (2) Pre-elaborazione, (3) Addestramento e (4) Validazione.

Tanti più testi inserirete e meglio la macchina saprà diversificare i propri schemi, aggiungendo livelli su livelli di astrazione. In una parola: il carburante per l’intelligenza è la quantità e la qualità delle informazioni.

Ma dove recuperare del carburante di buona qualità? Ma soprattutto, a spese di chi?

 

SCIMMIE INSTANCABILI E ARTISTI ARRABBIATI: L’ETERNO PROBLEMA DEL COPYRIGHT
Ed eccoci giunti, infine, al vero problema di tutta la questione sulle AI e relative polemiche che hanno invaso i nostri feed. Un problema che, a ben vedere, non è affatto nuovo e che molto probabilmente è destinato a durare in eterno. Esatto, purtroppo si tratta dell’annosa questione dei diritti d’autore.

Nell’esempio dei testi sull’Australia, se un AI utilizza l’opera di un autore o autrice per imparare, di chi sarà la paternità dell’opera prodotta dalla macchina? Come illustrato finora, dalla prima definizione di Turing fino alla creazione delle reti neurali artificiali, un’intelligenza artificiale non “crea” nulla di nuovo, semmai “imita” quello che è stato già creato e che qualcuno si è preso la briga di “insegnargli”. Ma a ben vedere, c’è differenza fra l’imitazione e il plagio?

Perché se una macchina, per definizione, non può fare a meno di imitare un modello umano, sfruttando costruzioni del linguaggio tipiche di un autore o autrice, in che termini si può parlare di opera ‘originale’ e non di una copia indegna?
La questione è tutt’altro che risolta e, ahimè, neppure di facile risoluzione. Lo sanno bene un gruppo di artisti che nello scorso anno ha avviato una causa contro Midjourney, Stability AI e DeviantArt, per aver utilizzato le loro opere senza autorizzazione per addestrare modelli di intelligenza artificiale. Causa tutt’ora in corso e ben lungi dall’essere risolta. E se credete che gli scrittori se la passino meglio, vi sbagliate: è del settembre del 2023, la notizia di un gruppo di autori statunitensi (fra cui tra cui Michael Chabon, David Henry Hwang, Matthew Klam, Rachel Louise Snyder e Ayelet Waldman) che ha intentato una class action contro OpenAI e Meta, per violazione del copyright nell’ambito di elaborazione di testi narrativi.

Per ora le aziende chiamate sul banco della difesa si sono svincolate dal problema, rimbalzando la questione del copyright alla sua fonte, ovvero alla mancanza di regole di tutela valide sul world wide web. I testi e le illustrazioni usate per far apprendere le macchine, hanno furbescamente dichiarato i legali delle softwarehouse chiamate in causa, sono stati raccolti da internet.

Esattamente come qualunque essere umano potrebbe fare per imparare, a sua volta, a scrivere o a disegnare.

 

NIENTE DI NUOVO SOTTO AL SOLE: L’ETERNA RIPETIZIONE DELL’ESSERE UMANO

Ricondotta entro i termini di una spiegazione del genere, ecco quindi che un AI smette di fare paura e ai nostri occhi diventa più simile a quello che in realtà è: nient’altro che uno strumento molto evoluto di collezione e rielaborazione dell’esperienza umana.

Il vero problema, forse, non è né di natura scientifica, né di natura legale, semmai filosofica.
“Dio ha tratto ogni cosa dal nulla, ma il nulla traspare”, scriveva il poeta e filosofo francese Paul Valery, ponendo il dubbio se sia effettivamente possibile creare qualcosa di “nuovo” nel nostro mondo. In altri termini: è possibile scrivere un nuovo libro, dipingere un nuovo dipinto o anche solo concepire una nuova idea, che non sia stata già, in qualche modo, prodotta? Non è forse vero che ogni nuova opera d’arte non è che una rielaborazione di un libro, un dipinto o un’opera già creata?
No, non rispondete, per favore.

In questo caso, come anche in altre questioni filosofiche, non è importante rispondere, quanto porsi la domanda.

Fino ad oggi la scimmia umana è scesa da un albero, ha raccolto oggetti e li ha manipolati per aiutarsi a vivere, rendendo la sua esistenza e quella dei suoi simili utile e costruttiva. La scimmia si è riprodotta, ha trasmesso le sue invenzioni e le sue conoscenze alla sua progenie e così facendo il corpus delle sue conoscenze si è espanso e ha proliferato, a sua volta. Fino ad oggi la scimmia ha premuto i bottoni della macchina da scrivere davanti alla quale era stata messa: col tempo i suoi lavori hanno cessato di essere segni privi di senso e si sono arricchiti di “intelligenza”. Fino ad ora.

Oggi però, forse per la prima vera volta nella sua storia, la scimmia si è guardata allo specchio così bene e così a lungo, da aver scoperto il meccanismo stesso che le aveva permesso di ‘imparare’ a evolversi. E la scimmia ha manipolato gli oggetti che aveva davanti, creando uno strumento nuovo, elusivo: il concetto stesso d’intelligenza.

Ecco, un’AI non è altro che questo: uno strumento in mano a una creatura imperfetta. Dato un tempo virtualmente infinito, per citare di nuovo Borel, e tale creatura ne saprà trarre certamente qualcosa di utile.
La domanda è: dopo quando e dopo quali errori?

 

PS. Come forse avrete notato, l’immagine proposta a apertura di questo articolo è stata generata da un AI (nello specifico GPT4) . Quello che difficilmente avrete notato è che la stessa AI è stata adoperata per raccogliere rapidamente i materiali con cui l’articolo è stato arricchito, confrontando le fonti e setacciando il web. Ironicamente, questo articolo sulle AI è stato scritto utilizzando un’AI.

 

NOTE E RIFERIMENTI

No Comments

Post A Comment