La (im)prevedibilità dei sistemi intelligenti artificiali

Pubblicato
La testa di uomo di profilo realizzata con circuiti elettrici.

Nel miscuglio di paura e di curiosità che da sempre accompagnano tutte le trasformazioni sociali, le cosiddette transizioni di fase rappresentano l’immagine plastica del “ci è sfuggito di mano”. Ovvero, quel tempo in cui la provetta del DNA ci cade sul pavimento, e fino a quel momento non ci eravamo mai posti il problema di come affrontare questa evenienza.

Il tema, con evidenti similitudini, si sta (ri)proponendo con i Large Language Models (LLM), considerato soprattutto come le loro performance procedano secondo le leggi di scala. Più le AI vengono ingozzate di dati e parametri, più diventano “intelligenti”.

Tuttavia, a un certo punto, all’aumentare della curva di complessità, non possiamo escludere l’insorgenza di proprietà emergenti che rendono il comportamento del sistema non più prevedibile, almeno basando la nostra valutazione esclusivamente sui pattern da cui si è originato.

Quindi, assistiamo a una sorta di discontinuità operativa fra il “piccolo” e il “grande”, ancorché costituiti dalle stesse unità elementari. In breve, non è possibile dedurre le caratteristiche e il comportamento di un sistema complesso prendendo in considerazione solo le proprietà dei suoi singoli componenti.

Il comportamento dei sistemi complessi

Mezzo secolo fa, il premio Nobel per la fisica Philip W. Anderson (More is Different, 1972), per spiegare l’emergenza nei sistemi complessi, aveva già teorizzato l’impossibilità di utilizzare le leggi fondamentali che governano i loro costituenti individuali. Ne deriva che il risultato osservato è sempre la conseguenza delle interazioni e delle proprietà collettive del sistema nel suo insieme.

Nonostante lo studio delle proprietà collettive trovi il suo terreno ideale nei vari campi della fisica della materia, spingendo la ricerca oltre l’approccio riduzionista, questo stesso impianto teorico ha aperto la strada a nuove prospettive anche in altri ambiti, fra i quali la biologia, l’economia, l’informatica.

Per esempio, un certo numero di automobili può percorrere un tratto autostradale in pochi minuti, ma se i veicoli si presentano contemporaneamente, il tempo necessario per smaltire il flusso aumenta sensibilmente. Allo stesso modo, storicamente nelle piccole popolazioni ogni individuo (singolarmente) ha sempre avuto bisogno di coltivare o cacciare per sopravvivere; al contrario, nelle comunità più grandi (complesse), c’è una produzione di cibo sufficiente perché queste popolazioni si sono specializzate in lavori non agricoli.

Ancora prima, Max Weber (L’etica protestante e lo spirito del capitalismo, 1904) aveva capito come l’apparizione di un nuovo sistema sociale fosse legata all’emergenza di un ordine di relazioni non lineari fra più unità che interagiscono fra loro. Intendendo con il termine “unità” la complessità dei pensieri, delle coscienze e delle azioni individuali che vanno a costituire la nuova formazione sociale.

Semplificando (ops!), la scienza della complessità si occupa del comportamento dei sistemi invece che dei loro singoli componenti. Si viene così a creare “un ambiente” in continua oscillazione fra l’ordine e il caos. E proprio sul confine di quest’ultimo si trova la complessità.

Affermare che i sistemi di intelligenza artificiale siano complessi, equivale a dire un’assoluta banalità. Forse, è proprio in questa evidenza che si cristallizza istantaneamente il punto di caduta del fascino e del terrore.

Ora, fino a quando non vediamo un cigno nero, tutti i cigni sono bianchi. Ma se la “variazione genetica” fosse già in atto e noi non la notiamo perché utilizziamo dei vecchi benchmark, inefficaci (o, quanto meno, inadatti) a misurare la trasformazione in atto nel modello?

Se nel caso del fallimento di Lehman Brothers è stato possibile razionalizzare a posteriori la sua “prevedibilità”, siamo sicuri che siano ancora sufficienti gli attuali strumenti, noti e ripetuti, per comprendere, fra qualche anno, le “anomalie” imprevedibili delle intelligenze artificiali?

L’impatto dell’improbabile, per dirla con le parole di Nassim Nicholas Taleb (Il cigno nero. Come l’improbabile governa la nostra vita, 2007), manda immediatamente a carte quarantotto le nostre conoscenze e previsioni basate su eventi passati o su dati storici, facendoci ignorare così la possibilità del manifestarsi di situazioni estreme e completamente nuove.

Siccome “il tutto è maggiore della somma delle parti”, inevitabilmente anche le AI presentano confini causali e sono influenzate dal contesto, dalla struttura, dalla funzione e dal ruolo.

Per questa ragione, dobbiamo aspettarci degli output imprevedibili o, in una qualche misura, addirittura controintuitivi. È evidente, allora, che la soluzione non può stare dentro la tecnica di pre-addestramento di ChatGPT & Co., ma dovrà trovare la sua motivazione nella filosofia, dove è più facile che la ricerca lasci il passo alla risposta.

Immagine di Steve Johnson

Sommario
La (im)prevedibilità dei sistemi intelligenti artificiali
Titolo
La (im)prevedibilità dei sistemi intelligenti artificiali
Descrizione
I sistemi di intelligenza artificiale possono essere imprevedibili nel modo in cui elaborano i dati e prendono decisioni.
Autore
Pubblicato da
Sergio Gridellli Blog
Logo

Di Sergio Gridelli

Sono nato e vivo a Savignano sul Rubicone (FC), una piccola città della Romagna attraversata dal fiume che segnò i destini di Roma. PERCHÉ LO FACCIO Ho sempre pensato che l’impronta di ciascuno di noi dipenda da un miscuglio di personalità e di tecnica. Se questi due ingredienti sono in equilibrio nasce uno stile di comunicazione unico, subito riconoscibile fra tutti gli altri. Perché in un mondo tutto marrone, una Mucca Viola si vede eccome! COME LO FACCIO Aiuto le persone a trovare le motivazioni che le rendono uniche. Non vendo il pane, vendo il lievito. COSA FACCIO Mi occupo di comunicazione aziendale e della elaborazione di contenuti per il web. Curo i profili social di aziende e professionisti. Tengo corsi sulla comunicazione interpersonale, il public speaking, il marketing digitale e su come realizzare presentazioni multimediali efficaci.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *