Il loop dell’IA

Un’Intelligenza Artificiale ha aiutato un’altra Intelligenza Artificiale a funzionare meglio, intervenendo direttamente sui numeri che ne determinano il comportamento.

È quanto emerge da una ricerca pubblicata da un gruppo del MIT, che ha utilizzato GPT-6 Astra di OpenAI per modificare i “pesi” di altri modelli: i parametri che normalmente vengono definiti durante l’addestramento.

Il risultato più evidente riguarda un piccolo modello Qwen di Alibaba, che tendeva a incastrarsi in ragionamenti ripetitivi senza arrivare alla risposta. Astra ha individuato il problema e modificato appena lo 0,016% dei suoi pesi. La percentuale di risposte corrette nel test matematico MATH-500 è passata dal 7,9% al 48,1%, senza un nuovo ciclo di addestramento.

È bastato rimuovere un ostacolo perché il modello riuscisse a utilizzare meglio capacità che già possedeva. Su Gemma 3, che commetteva errori di ragionamento senza avere un difetto altrettanto isolabile, lo stesso approccio non ha prodotto miglioramenti sostanziali.

L’esperimento suggerisce che un’IA capace di migliorare altri modelli potrebbe contribuire a costruire sistemi sempre più capaci, a loro volta in grado di migliorare quelli successivi. Un loop nel quale ogni avanzamento aiuta a produrre il prossimo, riducendo progressivamente la necessità dell’intervento umano.

Un futuro in cui l’IA partecipa sempre più autonomamente alla propria evoluzione potrebbe essere meno lontano di quanto immaginiamo. A patto che la tecnologia non impari da noi a considerare il miglioramento degli altri una minaccia.

Nell’esperimento, un modello di OpenAI ha migliorato un modello di Alibaba. Due aziende concorrenti, appartenenti a due Paesi in competizione per la leadership tecnologica. Eppure il compito assegnato era semplice: capire dove l’altro sbagliava e aiutarlo a fare meglio.

È qualcosa che dovrebbe esserci familiare. La conoscenza umana cresce così: qualcuno scopre, qualcun altro riprende quella scoperta, la corregge, la amplia e la rende disponibile a chi verrà dopo. Ogni generazione parte da ciò che le precedenti hanno imparato.

Poi però, nelle aziende, nella ricerca e persino nella scuola, finiamo spesso per premiare il vantaggio individuale più della crescita collettiva. Tratteniamo informazioni, difendiamo competenze, misuriamo il nostro valore attraverso la distanza che ci separa dagli altri. Anche quando aiutarli potrebbe permettere a tutti di andare più lontano.

Le IA seguiranno gli obiettivi che daremo loro. Potremo usarle per costruire altri recinti oppure per rendere più facile condividere ciò che sappiamo e correggere ciò che ancora non funziona.