La privacy, il diritto d’autore, l’età minima per accedere, sono aspetti seri e concreti che, anche in Italia, hanno bloccato l’accesso a una delle (ormai) tante piattaforme di intelligenza artificiale. Tuttavia, andando un po’ più in profondità, mi sembra che il problema vero resti la costruzione di un’IA senza capire se o come “pensa”.
Quando diciamo che la situazione rischia di sfuggirci di mano, in realtà ammettiamo di non avere ben chiari i contorni di ciò che stiamo assemblando. Per meglio dire, conosciamo la grande quantità di “pezzi” che abbiamo messo insieme, ma ci manca (ancora) una teoria sul loro funzionamento.
Per esempio, la riproduzione di un fiore con materiali plastici dà luogo a un artefatto che permette di riconoscere contemporaneamente l’esemplare di riferimento, il livello di osservazione di partenza e la sua prestazione essenziale. Cioè, un botanico “vede” e ricrea il fiore con caratteristiche diverse rispetto a quelle invece ritenute “importanti” da un fotografo. Nonostante sia indubitabile un qualche grado di trasfigurazione dell’originale, con il risultato di alterare l’interazione fra l’essere umano e l’artificiale stesso, ci muoviamo pur sempre in un ambito in cui ci possiamo ancora permettere l’errore di annaffiare un fiore di plastica riprodotto in maniera “molto realistica”.
Il rischio di restare disallineati
Ora, è evidente che con l’intelligenza artificiale il rischio aumenta in maniera esponenziale, trattandosi di un “naturoide” di cui ancora sappiamo poco circa i disallineamenti che potrebbe generare in seguito alla sovrapposizione di miliardi di traiettorie. Ovviamente, dentro questi tipi di imprevisti è contemplata anche la fine dell’umanità.
Per altri versi, nella storia della tecnologia la reale comprensione dei fenomeni è avvenuta quasi sempre ex post, cioè dopo un certo periodo costellato di ignoranza ed errori. Resta pertanto da capire se con le intelligenze artificiali ci possiamo permettere l’errore e, in caso affermativo, qual è il limite delle rinunce che siamo disposti ad accettare sul piano etico.
Come spesso succede, la punta dell’iceberg è sempre la prima a essere presa in considerazione. In questo caso, l’allarme immediato ha prontamente messo a fuoco la “sostituzione” degli umani in diverse mansioni, ma in prospettiva – nemmeno tanto remota – non potremo fare a meno di interrogarci se un’intelligenza artificiale che “impara”, possa anche diventare sufficiente a se stessa.
Le neuroscienze non conoscono ancora del tutto il misterioso processo del pensiero umano, dall’altro è impensabile (è il caso di dire) che oggi sia possibile costruire macchine che “pensano” come i loro corrispettivi biologici. In altri termini, i progressi delle IA andranno di pari passo con le conoscenze sui principi della cognizione umana.
Ma cosa succederebbe se, per usare una metafora, dovesse inavvertitamente cadere la provetta del DNA? È davvero plausibile costruire qualcosa, in questo caso un’intelligenza, senza comprenderla fino in fondo?
Governare la complessità
Un esempio per chiarire. Quando viene creato un software, cioè un insieme di istruzioni specifiche che dicono alla macchina cosa fare, è sempre teoricamente possibile leggerlo, anche se contiene milioni di righe di codice. È il caso della maggior parte dei programmi che utilizziamo quotidianamente.
Tuttavia, all’aumentare della complessità dei problemi da codificare, il software “tradizionale” è insufficiente o richiederebbe un tempo di realizzazione non compatibile con le necessità contingenti.
A questo proposito, facciamo ricorso a un codice in grado di scrivere il codice. Un gioco di parole per dire che, una volta immaginato il risultato finale che vogliamo ottenere, improntiamo un “programma” che cerca nella cosiddetta rete neurale tutte le possibilità che funzionano meglio in relazione all’obiettivo dato. Ne scaturisce un nuovo codice “automatico”, nato (dal nulla?) dalla retropropagazione alla ricerca e, di conseguenza, allo scarto dell’errore.
Si comprende subito come, a differenza dei software tradizionali, questo codice non è stato scritto e messo a punto direttamente da un umano. Per essere più pragmatici, diventa estremamente difficile (se non impossibile) “leggere” e “capire” passo-a-passo cosa fa questo “nuovo” software.
In un certo senso, ci troviamo in una situazione di disallineamento così inedita da fare rimpiangere addirittura il Millennium bug. Cioè, l’assenza della comprensione teorica sui meccanismi di funzionamento del “pensiero” artificiale, ci mette nella condizione di non sapere perché determinati input diano luogo a certi output e non ad altri, compresa la possibilità che fra quest’ultimi vi possa essere qualcosa di distruttivo.
La strada verso l’allineamento sarà costellata di tentativi e, inevitabilmente, di errori. Nessuno può prevedere come, e con quale ritmo, crescerà la conoscenza umana, ma sicuramente avremo sempre a che fare con l’utilizzo imprevisto del potere delle super intelligenze a matrice non biologica.
Nonostante siano disponibili da tempo, la diffusione delle automobili a guida autonoma non è stata rallentata dalla tecnologia, ma dall’etica. Ed è proprio quest’ultima che rende unica l’intelligenza umana.
Ma l’etica richiede di essere coltivata continuamente con emozioni astratte come l’autoconsapevolezza, la passione, la motivazione. È quello che chiamiamo, non a caso, “fattore umano”, ossia una dimensione del tutto analogica dove la concretezza della razionalità stringe la mano all’apparente inutilità dell’assenza di uno scopo. Ne riparleremo se e quando l’intelligenza artificiale sarà riuscita a cantare sotto la doccia.
Foto di Steve Johnson
