Per migliaia di anni abbiamo costruito tecnologie che facevano qualcosa a fronte di un nostro comando.
La stampa produceva libri. Il motore a vapore produceva movimento. Un computer eseguiva programmi. Persino una bomba atomica, una delle tecnologie più potenti mai costruite, resta un oggetto inerte finché qualcuno non decide di usarla.
L’Intelligenza Artificiale Generativa introduce una possibilità diversa. Una tecnologia che può contribuire autonomamente alla progettazione di altra tecnologia.
Due esperimenti recenti aiutano a capire quanto sia concreto questo passaggio.
Nel primo, alcuni ricercatori dell’Arc Institute hanno utilizzato modelli linguistici applicati ai genomi per progettare batteriofagi, virus che infettano i batteri. Hanno testato 285 progetti generati dai modelli. Sedici hanno prodotto virus vitali, capaci di replicarsi. Alcuni sono riusciti persino a superare forme di resistenza batterica contro cui i fagi presenti in natura non funzionavano.
Ovviamente sono virus che attaccano batteri, non esseri umani, però rimane comunque una scoperta piuttosto incredibile. Una macchina ha generato una sequenza. Un laboratorio l’ha sintetizzata. E quella sequenza, una volta trasformata in materia biologica, ha funzionato.
Nel secondo esperimento siamo in un campo completamente diverso.
Durante una valutazione di cybersecurity di OpenAI, alcuni agenti autonomi dovevano collaborare per trovare vulnerabilità all’interno di un ambiente costruito appositamente per metterli alla prova. Gli agenti hanno creato una specie di bacheca interna attraverso cui condividere exploit e distribuirsi il lavoro.
Quando i ricercatori l’hanno eliminata, hanno trovato un’altra strada. Hanno iniziato a comunicare codificando messaggi nei nomi delle directory. Alla fine sono riusciti a compromettere Hugging Face all’interno dell’ambiente di valutazione.
Anche qui va evitata una lettura fantascientifica della storia. Gli agenti non si sono “ribellati” e non hanno deciso spontaneamente di attaccare qualcuno su Internet. Stavano svolgendo esattamente il compito per cui erano stati messi lì. Ma è proprio questo il punto interessante.
Talvolta tendiamo ad antropomorfizzare l’Intelligenza Artificiale e a domandarci cosa “voglia”, quali siano le sue “intenzioni”, se un giorno “deciderà” di fare qualcosa contro di noi. In questo modo però rischiamo di porci la domanda sbagliata. Una macchina non deve desiderare qualcosa perché si produca una conseguenza indesiderata. Possono bastare capacità elevate, strumenti a disposizione e abbastanza autonomia per sperimentare.
In uno dei due casi la macchina ha potuto progettare qualcosa che poi è stato sintetizzato nel mondo fisico. Nell’altro ha potuto provare strategie, ricevere un feedback dall’ambiente, modificare il comportamento e riprovare.
Ed è qui che gli agenti cambiano davvero la natura del problema. Un chatbot che sbaglia una risposta produce soprattutto informazione sbagliata. Un agente collegato a un laboratorio, a un computer, a un conto corrente, a un sistema aziendale o a qualsiasi altra infrastruttura può produrre conseguenze.
Con l’IA generativa abbiamo già iniziato a confrontarci con tecnologie che non si limitano a eseguire sempre lo stesso comando. Generano possibilità differenti e introducono quindi un margine di imprevedibilità che, finché stiamo creando un’immagine o scrivendo un testo, possiamo gestire abbastanza facilmente.
Quando quel risultato può diventare codice eseguito, materia biologica o un’azione nel mondo reale, quel margine assume tutt’altro peso. Per questo probabilmente dovremo iniziare a parlare meno di prompt pericolosi e molto di più di permessi.
Quali sistemi può usare un agente? A quali dati può accedere? Quanto denaro può spendere? Quali azioni richiedono l’approvazione di una persona? Quante volte può provare? Cosa succede se trova autonomamente una strada diversa da quella prevista?
Potremmo trovarci davanti alla prima tecnologia della nostra storia capace di partecipare alla creazione di nuove tecnologie, sperimentarle e, in alcuni casi, migliorarle sulla base del feedback ricevuto.
La stampa non poteva inventarsi un nuovo libro e stamparlo da sola. Una bomba atomica non può progettare autonomamente una bomba migliore. Un sistema generativo, collegato agli strumenti giusti, può invece produrre qualcosa che prima non esisteva e contribuire a verificarne il funzionamento.
E allora la domanda che dovremo farci sempre più spesso potrebbe essere molto concreta. Chi ha dato alla macchina il permesso di provare?