A Giugno aveva fatto molto scalpore la notizia dell’ingegnere di Google, Blake Lemoine, che sosteneva che l’Intelligenza Artificiale su cui stava lavorando, LaMDA, fosse diventata senziente, ovvero è in grado di percepire e generare delle sensazioni.
Ovviamente la notizia era esagerata ma stimolava una riflessione interessante: Il fatto che una macchina sia in grado di simulare una coscienza vuol dire che ha una coscienza? Qual è il limite tra essere e fingere d’essere?
Il fatto che una macchina sia in grado di simulare una coscienza vuol dire che ha una coscienza? Qual è il limite tra essere e fingere d’essere?
In questa direzione trovo interessante uno studio, pubblicato a Settembre, dalla Cornell University, in cui gli studiosi:
«show that the “algorithmic bias” within one such tool — the GPT-3 language model — is instead both fine-grained and demographically correlated, meaning that proper conditioning will cause it to accurately emulate response distributions from a wide variety of human subgroups. We term this property “algorithmic fidelity” and explore its extent in GPT-3.»
Ovvero il “bias algoritmico” di GPT-3 è molto dettagliato e correlato demograficamente, il che significa che un condizionamento adeguato lo porterà a emulare accuratamente i bias di chi lo allena, da cui il termine, molto azzeccato di “fedeltà algoritmica”, secondo la quale con GPT-3 si possono simulare le persone e queste simulazioni possono rispondere con una sorprendente somiglianza alle persone reali.
Quando infatti i ricercatori hanno fatto dei test (chiamati “silicon samples”) per vedere se GPT3 avrebbe dato risposte simili a quelle delle persone quando gli sono stati dati gli stessi dati demografici di base, GPT3 ha risposto in modo straordinariamente simile alle persone.
Tecnologie come GPT3 dunque, se correttamente addestrate, possono essere utilizzate per fare dei test o delle previsioni sociali su larga scala. Potremmo provare a simulare scenari apocalittici e vedere come reagirebbero determinati gruppi di individui, o testare proposte e campagne politiche in anteprima. Oppure elaborare sistemi di test di mercato sintetici. Gli scenari sono molteplici così come le loro potenziale conseguenze.