Nell’espressione “Intelligenza Artificiale Generativa” la parola che cambia tutto è l’ultima: generativa.
Cambia tutto perché per la prima volta ci confrontiamo con una tecnologia in grado di “generare” sempre più contenuti che un tempo solo noi esseri umani eravamo in grado di creare: testi, immagini, video, musica, codice, ipotesi scientifiche, progetti e soluzioni.
Tra questi un domani, forse molto vicino, potrebbe contribuire a generare anche se stessa.
È il concetto di Recursive Self-Improvement, RSI.
L’idea è che un sistema di IA possa progressivamente imparare a costruire versioni migliori di sé. Generare un’idea per migliorare la propria architettura, scrivere il codice necessario, testarlo, capire se funziona e usare ciò che ha imparato per progettare il ciclo successivo.
Oggi questo processo richiede ancora molto lavoro umano.
Il New York Times racconta, per esempio, di Inherent, una startup fondata da ex ricercatori di Google che sta sviluppando Faraday, un agente addestrato anche sui processi di lavoro degli stessi ricercatori. L’obiettivo è insegnargli progressivamente a fare ciò che fanno loro. Gli attuali sistemi, però, dipendono ancora molto dall’esperienza, dalle idee e dal giudizio umano.
La direzione è però abbastanza chiara.
Un nuovo studio dal titolo piuttosto esplicito, The Last AI Built by Humans, prova a descrivere il percorso verso una vera Recursive Self-Improvement. È un lavoro firmato da 35 ricercatori e propone cinque livelli di autonomia.
- Al primo livello l’IA esegue miglioramenti progettati dagli esseri umani.
- Al secondo può individuare i propri punti deboli e scegliere come intervenire.
- Al terzo decide quali nuove esperienze o informazioni le servono per imparare.
- Al quarto può modificarsi sulla base di ciò che incontra nel mondo dopo essere stata messa in funzione.
- Al quinto arriva la parte più difficile da immaginare. L’IA può migliorare anche il processo con cui migliora se stessa, e trasmettere quel nuovo processo alle proprie versioni successive.
I ricercatori hanno classificato 491 lavori già esistenti. Circa tre quarti ricadono ancora nei primi due livelli, mentre meno del 6% arriva al quinto. Il software sembra il terreno più favorevole, perché una modifica può essere scritta, eseguita, verificata, scartata e riprovata rapidamente. Nel mondo fisico, nella medicina o nella ricerca scientifica il feedback è molto più lento, costoso e ambiguo.
Questa progressione cambia, almeno per me, il significato della parola “generativa”.
Finora abbiamo pensato a una macchina che genera qualcosa per noi. Un testo. Un’immagine. Un programma. Un’idea.
Con la Recursive Self-Improvement l’oggetto della generazione comincia a coincidere con la macchina stessa.
E a quel punto il ciclo potrebbe diventare molto diverso da quello a cui siamo abituati. Un’IA genera un’idea per migliorarsi, la realizza, la testa, conserva ciò che funziona e usa quella nuova capacità per trovare il miglioramento successivo.
Poi ricomincia. La parte “recursive” sta proprio qui. Ogni miglioramento può rendere più efficace anche la capacità di produrre il miglioramento dopo.
Per ora gli esseri umani restano fuori dal ciclo in alcuni punti decisivi. Nel modello proposto dallo studio continuiamo a definire la missione, i limiti di sicurezza, i criteri con cui valutare un miglioramento, le risorse accessibili e, potenzialmente, l’ultima autorizzazione prima di rendere operativo un nuovo sistema. Gli stessi autori insistono sulla necessità di ambienti controllati, verifiche indipendenti e possibilità di fermare o respingere gli aggiornamenti.
Ma un domani? Cosa potrebbe succedere?
Se una macchina può generare le idee, realizzarle, verificarle, imparare dai risultati e usare ciò che ha imparato per generare una versione migliore di se stessa, quale parte del processo rimane necessariamente umana?
A quel punto smetteremo di chiederci cosa può generare per noi. E inizieremo a chiederci cosa succede quando può generare se stessa.