Come scrive Ajit Jaokar in un suo recente post, di fronte all’avvento di nuove tecnologie, normalmente siamo propensi a immaginare e temere una tipologia di controllo di stampo orweliano (un controllo esplicito da parte dell’autorità, come quello descritto in “1984”), tuttavia la visione di Aldous Huxley nel suo celebre “Brave New World” potrebbe causare una mancanza di controllo in un modo completamente diverso. Il controllo potrebbe essere esercitato attraverso il piacere infinito, l’ozio e il soddisfacimento di tutti i bisogni.
E questo è il grosso rischio dell’Intelligenza Artificiale (AGI): Non qualcosa che ci controlla nel senso orwelliano (“infliggere dolore”), ma piuttosto qualcosa che ci controlla “infliggendo piacere” (la visione del mondo di Huxley).
Ed effettivamente questo è quello che sta accadendo. Il controllo delle nostre vite e dei nostri pensieri passa da strumenti tecnologici che utilizziamo ogni giorno non perché dobbiamo usarli o siamo costretti a usarli. Ma perché vogliamo usarli. Perché ci fa piacere usarli. Ci sono utili e senza di loro non potremmo più avere la vita che vorremmo avere o che, quanto meno, abbiamo l’illusione di voler avere.