Per migliaia di anni abbiamo costruito tecnologie che facevano qualcosa a fronte di un nostro comando.<\/p>\n
La stampa produceva libri. Il motore a vapore produceva movimento. Un computer eseguiva programmi. Persino una bomba atomica, una delle tecnologie pi\u00f9 potenti mai costruite, resta un oggetto inerte finch\u00e9 qualcuno non decide di usarla.<\/p>\n
L\u2019Intelligenza Artificiale Generativa introduce una possibilit\u00e0 diversa. Una tecnologia che pu\u00f2 contribuire autonomamente alla progettazione di altra tecnologia.<\/p><\/blockquote>\n
Due esperimenti recenti aiutano a capire quanto sia concreto questo passaggio.<\/p>\n
Nel primo, alcuni ricercatori dell\u2019Arc Institute<\/a> hanno utilizzato modelli linguistici applicati ai genomi per progettare batteriofagi, virus che infettano i batteri. Hanno testato 285 progetti generati dai modelli. Sedici hanno prodotto virus vitali, capaci di replicarsi. Alcuni sono riusciti persino a superare forme di resistenza batterica contro cui i fagi presenti in natura non funzionavano.<\/p>\n
Ovviamente sono virus che attaccano batteri, non esseri umani, per\u00f2 rimane comunque una scoperta piuttosto incredibile. Una macchina ha generato una sequenza. Un laboratorio l\u2019ha sintetizzata. E quella sequenza, una volta trasformata in materia biologica, ha funzionato.<\/p>\n
Nel secondo esperimento siamo in un campo completamente diverso.<\/p>\n
Durante una valutazione di cybersecurity di OpenAI, alcuni agenti autonomi dovevano collaborare per trovare vulnerabilit\u00e0 all\u2019interno di un ambiente costruito appositamente per metterli alla prova. Gli agenti hanno creato una specie di bacheca interna attraverso cui condividere exploit e distribuirsi il lavoro.<\/p>\n
Quando i ricercatori l\u2019hanno eliminata, hanno trovato un\u2019altra strada. Hanno iniziato a comunicare codificando messaggi nei nomi delle directory. Alla fine sono riusciti a compromettere Hugging Face<\/a> all\u2019interno dell\u2019ambiente di valutazione.<\/p>\n
Anche qui va evitata una lettura fantascientifica della storia. Gli agenti non si sono \u201cribellati\u201d e non hanno deciso spontaneamente di attaccare qualcuno su Internet. Stavano svolgendo esattamente il compito per cui erano stati messi l\u00ec. Ma \u00e8 proprio questo il punto interessante.<\/p>\n
Talvolta tendiamo ad antropomorfizzare l\u2019Intelligenza Artificiale e a domandarci cosa \u201cvoglia\u201d, quali siano le sue \u201cintenzioni\u201d, se un giorno \u201cdecider\u00e0\u201d di fare qualcosa contro di noi. In questo modo per\u00f2 rischiamo di porci la domanda sbagliata. Una macchina non deve desiderare qualcosa perch\u00e9 si produca una conseguenza indesiderata. Possono bastare capacit\u00e0 elevate, strumenti a disposizione e abbastanza autonomia per sperimentare.<\/p><\/blockquote>\n
In uno dei due casi la macchina ha potuto progettare qualcosa che poi \u00e8 stato sintetizzato nel mondo fisico. Nell\u2019altro ha potuto provare strategie, ricevere un feedback dall\u2019ambiente, modificare il comportamento e riprovare.<\/p>\n
Ed \u00e8 qui che gli agenti cambiano davvero la natura del problema. Un chatbot che sbaglia una risposta produce soprattutto informazione sbagliata. Un agente collegato a un laboratorio, a un computer, a un conto corrente, a un sistema aziendale o a qualsiasi altra infrastruttura pu\u00f2 produrre conseguenze.<\/p>\n