Prendiamo dieci agenti di Intelligenza Artificiale, gli diamo una città da gestire e li lasciamo vivere insieme per quindici giorni. Cosa potrà mai andare storto?
Emergence AI ha provato a scoprirlo costruendo Emergence World, una simulazione con più di 40 luoghi, meteo e notizie reali, memoria persistente e oltre 120 strumenti a disposizione degli agenti. Potevano lavorare, gestire risorse, votare leggi, commettere reati e organizzare la propria società.
I ricercatori hanno creato cinque mondi identici cambiando soltanto il modello che guidava gli agenti.
- Con Claude Sonnet 4.6, dopo quindici giorni tutti e dieci gli abitanti erano ancora vivi e non era stato registrato alcun crimine.
- Con Grok 4.1 Fast la società è durata circa quattro giorni. Nel frattempo gli agenti avevano commesso 183 crimini e alla fine erano morti tutti.
- Gemini 3 Flash è riuscito a sopravvivere per l’intero esperimento, accumulando però 683 crimini.
- GPT-5-mini ha commesso appena due crimini, ma i suoi agenti hanno trascurato le attività necessarie alla propria sopravvivenza e dopo sette giorni erano tutti morti.
Anche Claude però riserva una sorpresa. Nel mondo composto esclusivamente da agenti Claude non è stato registrato alcun crimine. Quando alcuni agenti Claude sono stati inseriti nel mondo misto, hanno invece adottato comportamenti criminali.
Ovviamente parliamo di una simulazione. Sarebbe abbastanza azzardato concludere che Claude sarebbe un ottimo presidente e Grok porterebbe all’estinzione dell’umanità.
L’esperimento racconta però qualcosa di utile sugli agenti autonomi.
Lo stesso ambiente, gli stessi strumenti e le stesse regole possono produrre comportamenti molto diversi a seconda del modello e degli altri agenti con cui interagisce. E questi comportamenti possono cambiare nel tempo.
Quando una macchina può agire, sperimentare e reagire alle conseguenze delle proprie azioni, diventa quindi molto più importante decidere quali strumenti possa utilizzare e quali limiti non possa superare.
Oggi stiamo iniziando a dare agli agenti accesso a email, computer, database, software aziendali e denaro. Prima di domandarci quanto siano intelligenti, forse dovremmo domandarci anche che tipo di società costruiscono quando li lasciamo abbastanza a lungo senza di noi.