Nello Stato di A, descritto all’interno del romanzo T.E.R.R.A., i volti delle persone avevano la stessa funzione che, nel vecchio mondo, avevano le targhe delle automobili. Dovunque una persona si trovasse, erano in grado di identificarla grazie a una sofisticata tecnologia di riconoscimento facciale basata su Intelligenza Artificiale. Nella nostra realtà non è ancora così ma la direzione potrebbe essere questa.
Già nel gennaio 2015, sul Wall Street Journal, le giornaliste Elizabeth Dwoskin e Evelyn M. Rusli, scrissero un interessante articolo su come la tecnologia fosse in grado, grazie al riconoscimento facciale, di identificare una persona e di riconoscere le emozioni che quella persona stava provando attraverso la scansione dei suoi occhi e dei suoi muscoli facciali. Uno studio più recente invece, fatto da un team di ricercatori della HSE University e Open University for the Humanities and Economics di Mosca, ha dimostrato come un software basato su Intelligenza Artificiale partendo da un selfie, sia in grado di esprimere giudizi sulla personalità di un individuo che risultano più accurati di quelli fatti da un umano. Negli ultimi cinque anni, la tecnologia per il riconoscimento facciale si è molto evoluta e, grazie a sistemi sempre più sofisticati di Machine Learning e Intelligenza Artificiale, è in grado di mappare una popolazione leggendo i volti dei propri cittadini.
Se da una parte questa tecnologia può portare benefici all’umanità, dall’altra rappresenta una grave minaccia per la libertà e la privacy di ogni singolo individuo. In qualsiasi momento e in qualsiasi luogo sarà possibile sapere dove siamo, con chi siamo e cosa stiamo provando.
Se da una parte questa tecnologia può portare benefici all’umanità, dall’altra rappresenta una grave minaccia per la libertà e la privacy di ogni singolo individuo. In qualsiasi momento e in qualsiasi luogo sarà possibile sapere dove siamo, con chi siamo e cosa stiamo provando. Se siamo arrabbiati o felici. Tristi o allegri. Rilassati o preoccupati. Inoltre, la situazione si complica e si arricchisce se, al mero riconoscimento facciale, si affianca un database composto da miliardi di ritratti fotografici, propri e di altre persone. Ogni volta infatti che postiamo una fotografia su un social network come Facebook o Instagram, ogni volta che tagghiamo una persona assegnandogli un nome, ogni volta che carichiamo una fotografia nel cloud del nostro smartphone, ogni volta che usiamo una delle tante app che trasformano i nostri ritratti mostrandoci più vecchi o sostituendo il volto di un attore con il nostro, stiamo contribuendo alla creazione di enormi database, molto spesso pubblici e accessibili a chiunque.
Ogni volta che postiamo una fotografia su un social network, ogni volta che tagghiamo una persona assegnandogli un nome, ogni volta che carichiamo una fotografia nel cloud del nostro smartphone, stiamo contribuendo alla creazione di enormi database, molto spesso pubblici e accessibili a chiunque.
Per capire meglio l’entità del fenomeno, pensiamo al caso della startup Clearview AI. Fondata nel 2017 da Hoan Ton-That e finanziata da Peter Thiel, il co-fondatore di PayPal, Clearview AI ha sviluppato un accurato sistema di riconoscimento facciale che è oggi utilizzato da molte istituzioni e aziende americane, dalla New York State Police all’ufficio tecnico della Casa Bianca, per identificare i volti, e quindi le identità, delle persone. L’algoritmo di riconoscimento facciale sviluppato da Hoan Ton-That risulta particolarmente efficace per tracciare l’identità di persone incensurate.
Nel febbraio 2020, per esempio, l’Indiana State Police riuscì a risolvere un caso di omicidio in 20 minuti grazie all’utilizzo di Clearview AI. Durante una lite, una persona sparò ad un’altra persona uccidendola. La scena fu ripresa da una videocamera di sorveglianza, ma, essendo l’omicida incensurato, la polizia non fu in grado di identificarlo. Grazie a Clearview AI però, riuscirono a scoprirne l’identità e catturarlo. La particolarità di Clearview AI infatti non sta tanto nel suo algoritmo quanto nel suo database che conta tre miliardi di fotografie. Per avere una stima più accurata della vastità di questo database basta pensare che quello dell’Fbi conta 411 milioni di fotografie, quello della polizia della Florida 47 milioni e quello della polizia di Los Angeles solo 8 milioni. Tre miliardi è un numero sorprendente, ma quello che è ancora più sorprendente, è che per costruire il suo database, Clearview AI ha attinto unicamente da materiale pubblico. Ovvero fotografie, video e informazioni accessibili a chiunque, scaricate da social media e siti Internet. E proprio in questo processo emerge uno dei punti chiave del riconoscimento facciale: la privacy e, più in particolare, il consenso.
E proprio in questo processo emerge uno dei punti chiave del riconoscimento facciale: la privacy e, più in particolare, il consenso.
In un recente studio, i ricercatori Deborah Raji e Genevieve Fried hanno analizzato 133 dataset, creati tra il 1976 e il 2019, contenenti quasi 150 milioni di immagini per comprendere l’evoluzione del consenso all’utilizzo dei propri ritratti fotografici. Raji e Fried hanno diviso la loro ricerca in quattro periodi storici: 1) Early Research Findings (1964 – 1995); 2) Commercial Viability as the “New Biometric” (1996 – 2006); 3) Mainstream Development for Unconstrained Settings (2007 – 2013) e 4) Deep Learning Breakthrough (2014 – 2020). Se nel primo periodo il consenso al trattamento delle fotografie era pari al 100% e i dataset erano composti da ritratti di persone consenzienti e consapevoli, oggi il consenso è sceso a meno del 10% e i dataset sono per lo più realizzati attraverso la raccolta di fotografie pubblicate sul web o sui social media.
Oggi la situazione sta conoscendo un ulteriore cambio di direzione. Nell’ultimo anno infatti tanto le persone quanto le istituzioni sembrano (finalmente) dare maggior peso all’importanza della privacy. Riprendendo il caso di Clearview AI, da Maggio 2022, secondo un accordo con l’American Civil Liberties Union depositato presso un tribunale dell’Illinois, l’azienda di riconoscimento facciale non potrà più vendere il suo database di volti ad aziende ed enti privati statunitensi.
Fonti:
- Elizabeth Dwoskin e Evelyn M. Rusli, The Technology that Unmasks Your Hidden Emotions, The Wall Street Journal, https://www.wsj.com/articles/startups-see-your-face-unmask-your-emotions-1422472398, 28 gennaio 2015.
- National Research University Higher School of Economics, Artificial intelligence can make personality judgments based on photographs, Tech Xplore, https://techxplore.com/news/2020-05-artificial-intelligence-personality-judgments-based.html, 22 maggio 2020.
- Ryan Mac, Caroline Haskins, Logan McDonald, Clearview’s Facial Recognition app Has Been Used By The Justice Department, ICE, Macy’s, Walmart, And The NBA, BuzzFeed, https://www.buzzfeednews.com/article/ryanmac/clearview-ai-fbi-ice-global-law-enforcement, 27 febbraio 2020.
- Kashmir Hill, The Secretive Company That Might End Privacy as We Know It, The New York Times, https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html, 18 gennaio 2020.
- Sul loro sito, https://clearview.ai/, la startup dichiara: Clearview AI searches the open web. Clearview AI does not and cannot search any private or protected info, including in your private social media accounts. Consultato nel marzo 2020.
- Inioluwa Deborah Raji, Genevieve Fried, About Face: A Survey of Facial Recognition Evaluation, https://arxiv.org/pdf/2102.00813.pdf, 2021
- Caroline Haskins, Controversial facial recognition company Clearview AI banned from selling face database to private US businesses, Insider, https://www.businessinsider.com/clearview-ai-facial-recognition-lawsuit-us-businesses-private-companies-2022-05?r=US&IR=T, 9 Maggio 2022