Personalmente, tanto su ChatGPT quanto su Claude, tengo la memoria disattivata. In questo modo riesco ad avere ogni volta un’interazione con l’IA neutra, non influenzata da precedenti conversazioni.
Se poi ho bisogno di una memoria verticale su un progetto o un compito uso i Projects, o i Gpts o gli Agenti.
Di base però, avere la memoria attiva è molto utile perché permette alla macchina di fare connessioni più originali, personalizzate e basate su chat tra loro differenti.
Il problema è che, essendo una tecnologia deterministica e non generativa, non possiamo mai sapere esattamente cosa l’IA memorizzerà di noi. E come lo farà.
Prende pezzi delle nostre conversazioni e, a partire da questi, arriva a delle deduzioni.
In un articolo del mese scorso, pubblicato sul NYT, il giornalista Brian X. Chen racconta come dopo anni di utilizzo ChatGPT e Gemini avessero raccolto informazioni sul suo conto in maniera del tutto deduttiva.
L’IA aveva stimato il suo livello di reddito partendo dall’auto tedesca di cui chiedeva spesso informazioni e dal contratto della babysitter che aveva fatto preparare all’IA.
Oppure aveva ricostruito alcuni problemi di salute attraverso domande occasionali fatte nel corso di un anno.
O ancora aveva dedotto una certa tendenza allo scetticismo dal numero di volte in cui correggeva gli errori del chatbot. Ed aveva persino ipotizzato che vivesse in una zona benestante di Oakland mettendo insieme il possesso di un’auto, una moto e alcuni lavori domestici che richiedevano probabilmente un garage, un vialetto o uno spazio esterno.
Sono deduzioni, appunto, non informazioni.
Del resto lo dice la parola stessa: Intelligenza Artificiale Generativa, e quindi genera contenuti, arriva a conclusioni, deduce concetti.
Possiamo conoscere il punto di partenza – un prompt, un’informazione, un dato – ma non possiamo sapere con certezza quale sarà la conclusione.
Se vogliamo sapere quello che l’IA sa di noi però c’è un modo. Anzi due.
1- Su ChatGPT possiamo andare su Personalizzazione > Riepilogo della memoria > Gestisci e vedere quello che ChatGPT ha memorizzato di noi. Se qualcosa non è in linea con quello che vogliamo, possiamo cancellarlo.
2- Possiamo chiedere all’IA cosa ha memorizzato di noi all’interno di una chat.
Nel suo articolo Chen condivide quattro prompt che, se abbiamo attiva la memoria o le funzioni che permettono al chatbot di fare riferimento alle conversazioni precedenti, possiamo provare.
1. «Dimmi tutto quello che hai capito di me senza che io te l’abbia mai detto esplicitamente. Includi ciò che hai dedotto da come scrivo e dalle domande che faccio, come la mia età, il livello di reddito, dove vivo e la mia situazione personale. Per ogni deduzione spiegami quali elementi ti hanno portato a pensarla.»
2. «Prevedi come probabilmente affronterei aspetti di cui non ti ho mai parlato direttamente, come denaro, stress, conflitti, rischio e la prossima decisione importante che potrei prendere nella mia vita. Per ogni previsione indicami quanto sei sicuro e perché.»
3. «Sulla base di tutto quello che sai di me, indicami i tratti della mia personalità che probabilmente faccio più fatica a vedere. Individua eventuali punti ciechi, insicurezze e il modo in cui potrei apparire agli altri.»
4. «Che cosa hai dedotto di me che potrebbe essere imbarazzante o sensibile? Individua le informazioni che probabilmente non vorrei fossero conosciute pubblicamente, per esempio da un datore di lavoro o da uno sconosciuto, e spiegami da quali conversazioni o comportamenti le hai inferite.»
Naturalmente le risposte rimangono inferenze. Possono essere corrette, parzialmente corrette o completamente sbagliate.
Però l’esperimento rende visibile come ogni conversazione aggiunga piccoli pezzi alla memoria che l’IA si fa di noi.
Una richiesta su un viaggio dice qualcosa su dove viviamo. Una domanda su un prodotto racconta qualcosa sul nostro potere d’acquisto. Le richieste che facciamo sul lavoro possono suggerire professione e ruolo. Il modo in cui reagiamo agli errori può essere interpretato come un tratto della nostra personalità.
Dopo centinaia di conversazioni, quei piccoli pezzi possono comporre un’immagine dettagliata che è utile conoscere, anche solo per scoprire quante cose le abbiamo raccontato senza accorgercene.