Ad oggi non esiste un sistema di monitoraggio e manipolazione mentale così sofisticato come il sistema FREUD descritto all’interno romanzo T.E.R.R.A., tuttavia sono molti i segnali che fanno pensare che un domani potremmo avvicinarci a qualcosa di simile. Almeno in teoria. Già oggi, infatti, sofisticati sistemi basati su Intelligenza Artificiale vengono utilizzati per consigliarci i film da vedere, i libri da leggere, le persone da seguire, gli allenamenti da fare, i cibi da mangiare, i prodotti da comprare, le notizie da leggere, la musica da ascoltare, le malattie da monitorare e le informazioni cui credere, portandoci così a chiuderci in un mondo che ci viene sempre più cucito addosso.
Fino ad ora, questa tecnologia è stata utilizzata principalmente per motivi commerciali. Ovvero per segmentare la popolazione di consumatori e proporci pubblicità quanto più in linea con i nostri gusti e i nostri bisogni. Ma questa non è una novità. Il Marketing funziona così da sempre. Oggi è solo molto più evoluto perché, a differenza di trent’anni fa, gli esperti di Marketing hanno a disposizione molti più dati su di noi.
Attraverso le nostre azioni online (i siti che guardiamo, le persone che seguiamo, i commenti che lasciamo, i prodotti che compriamo, le foto e i video che postiamo e così via) e offline (i luoghi che visitiamo, gli acquisti che facciamo con la nostra carta di credito, le carte fedeltà che sottoscriviamo, le attività che svolgiamo, le espressioni facciali che abbiamo, il tono di voce che usiamo quando parliamo e così via) potenzialmente un’azienda può conoscerci meglio di come noi conosciamo noi stessi e quindi offrirci sempre il prodotto o servizio giusto per noi, esattamente nel momento in cui cominciamo a sentirne il bisogno. Tuttavia questo sistema di segmentazione della popolazione in differenti cluster di appartenenza, sta scivolando velocemente in ambiti che vanno oltre il Marketing.
Attraverso le nostre azioni online e offline potenzialmente un’azienda può conoscerci meglio di come noi conosciamo noi stessi e quindi offrirci sempre il prodotto o servizio giusto per noi, esattamente nel momento in cui cominciamo a sentirne il bisogno.
Pensiamo al mondo del lavoro. Nel 2019, un sistema basato su Intelligenza Artificiale sviluppato dalla startup americana Hire Vue, è stato utilizzato in Inghilterra per la selezione del personale. Il sistema sfrutta la tecnologia di Machine Learning per valutare le espressioni facciali, il lessico e il tono di voce dei candidati cui vengono sottoposte le stesse identiche domande e che vengono filmati attraverso uno smartphone o un personal computer. Le loro risposte e i loro video vengono poi confrontati in automatico con i dati raccolti intervistando dipendenti modello dell’azienda. In base al risultato, il candidato viene classificato all’interno di una categoria e poi, nel caso, selezionato per il lavoro per cui ha fatto il colloquio.
Spostandoci dall’ambito professionale per entrare in quello sociale, pensiamo al Sistema di Credito Sociale creato dal governo cinese. Il progetto nasce con il fine di sviluppare uno strumento di classificazione della reputazione dei cittadini cinesi e assegnare ad ognuno un punteggio che determina il loro credito sociale. L’algoritmo su cui è stato costruito il sistema si basa sulle informazioni possedute dal governo riguardanti la condizione economica e sociale di ogni singolo cittadino, le informazioni derivanti dai Big Data e quelle raccolte attraverso sofisticati sistemi di riconoscimento facciale. Per ora quello cinese è un sistema di sorveglianza di massa volto alla classificazione della popolazione cinese, ma ha tutte le risorse per trasformarsi in un sistema di controllo di massa volto alla persuasione della popolazione cinese. Una nuova forma di propaganda che, al posto di influenzare le decisioni delle persone, decide per loro conto.
Bastano dieci Mi piace per conoscere una persona meglio di quanto la possa conoscere un suo collega di lavoro, settanta Mi piace per conoscerla meglio di un suo caro amico, centocinquanta per conoscerla meglio dei suoi genitori e trecento per conoscerla meglio del suo partner.
Tornando in Europa e in America invece, basta pensare al celebre scandalo di Cambridge Analytica che ha mostrato al mondo occidentale il valore dei nostri dati e come questi possano essere utilizzati per manipolare le scelte commerciali e politiche delle persone. Il sistema di microtargeting comportamentale (ovvero una pubblicità altamente personalizzata su ognuno di noi) sviluppato dalla società di consulenza Cambridge Analytica, si basa su un algoritmo, creato dal ricercatore di Cambridge Michal Kosinski, grazie al quale bastano dieci Mi piace per conoscere una persona meglio di quanto la possa conoscere un suo collega di lavoro, settanta Mi piace per conoscerla meglio di un suo caro amico, centocinquanta per conoscerla meglio dei suoi genitori e trecento per conoscerla meglio del suo partner. Questo livello di conoscenza può permettere tanto a un’azienda di spingerci a comprare i suoi prodotti, quanto a un partito politico di spingerci a votare per il suo candidato.
Fonti:
- Simon Chandler, Artificial Intelligence Has Become A Tool For Classifying And Ranking People, Forbes, https://www.forbes.com/sites/simonchandler/2019/10/01/artificial-intelligence-has-become-a-tool-for-classifying-and-ranking-people/#7ff23fc1d7cd, 1 ottobre 2019.
- Sistema di credito sociale, https://it.wikipedia.org/wiki/Sistema_di_credito_sociale, Wikipedia, consultato nel marzo 2020.
- Edmund L. Andrews, The Science Behind Cambridge Analytica: Does Psychological Profiling Work?, Insights by Stanford Business, https://www.gsb.stanford.edu/insights/science-behind-cambridge-analytica-does-psychological-profiling-work, 12 aprile 2018.