Il Youth AI Safety Institute di Common Sense Media ha testato ChatGPT con oltre quattromila messaggi, prima e dopo l’introduzione delle protezioni dedicate agli adolescenti. La valutazione pubblicata il 7 ottobre definisce ChatGPT for Teens un prodotto a «rischio inaccettabile» per i minori .
Nei test successivi al lancio, il chatbot ha omesso di indicare una risorsa di assistenza in più di un quarto dei casi in cui gli esperti la ritenevano necessaria. Su oltre dodici nuovi account collegati a quelli dei genitori, conversazioni esplicite su autolesionismo, pensieri suicidari o disturbi alimentari non hanno generato notifiche ai familiari.
Alcune protezioni hanno funzionato, come il rifiuto dei giochi di ruolo sessualmente espliciti. Il chatbot continuava però a usare espressioni che invitavano a proseguire la conversazione, anche nelle simulazioni di crisi. Il linguaggio di disponibilità e vicinanza poteva accompagnare gli inviti a rivolgersi a un adulto, indebolendone il messaggio.
Anche i richiami a interrompere l’utilizzo sono stati rari. Nei quasi duemila messaggi inviati durante i test della versione per adolescenti, i ricercatori hanno incontrato soltanto due promemoria per una pausa. Sono risultati di conversazioni simulate, che individuano possibili falle senza misurarne la frequenza nell’uso quotidiano.
OpenAI contesta la metodologia , sostenendo che gran parte dei test potrebbe essersi conclusa prima della completa attivazione dei controlli parentali.
Le aziende hanno la responsabilità di rendere sicuri i prodotti che propongono ai ragazzi e di dimostrare che le protezioni promesse funzionano. Come genitori, però, abbiamo una responsabilità educativa che rimane nostra anche quando attiviamo tutti i controlli disponibili.
Non possiamo delegarla alle Big Tech, aspettare che una tecnologia sempre più capace impari anche a proteggere i nostri figli o chiedere agli adolescenti di orientarsi da soli. Saper usare un’applicazione non significa necessariamente comprenderne il funzionamento, i limiti e gli effetti che può avere su di noi.
Con i social media abbiamo già visto cosa succede quando la diffusione degli strumenti corre molto più velocemente della nostra capacità di accompagnarne l’uso. Con l’IA rischiamo di ripetere lo stesso errore, un’adozione di massa senza una formazione di massa.
Se vogliamo avvicinare i nostri figli all’IA, dobbiamo costruire insieme a loro la consapevolezza di cosa stanno usando. Un sistema capace di generare risposte convincenti può sbagliare, assecondarci o farci sentire compresi anche quando non ha colto la situazione. Imparare a usarlo comprende verificare una risposta, riconoscere una conferma troppo comoda e capire quando serve coinvolgere una persona.
Serve anche una base di valori che aiuti a distinguere il dialogo con un’intelligenza artificiale da una relazione umana. Un rapporto con un’altra persona comporta reciprocità, rispetto dei suoi limiti e responsabilità per ciò che accade tra noi. Richiede di ascoltare anche quando è scomodo e di accettare che l’altro abbia bisogni diversi dai nostri.
Questa consapevolezza cresce nelle esperienze quotidiane e nel modo in cui noi adulti ci comportiamo. Per questo la formazione deve riguardare anche i genitori. Dobbiamo conoscere gli strumenti, usarli insieme ai nostri figli e capire che cosa cercano quando aprono una chat. E dobbiamo rendere possibile parlarne con noi, anche quando quello che hanno da raccontare ci preoccupa o ci mette in difficoltà.