Si chiama “sycophancy” ed è la tendenza degli LLM ad assecondare il punto di vista di chi li interroga.
In pratica: se presentiamo a ChatGPT un’idea di business mediocre, ci dirà che è interessante. Se gli chiediamo un feedback su un testo scarso, lo troverà “ben scritto, con alcuni spunti di miglioramento”.
Per quanto questo possa lusingarci, è il primo passo verso la costruzione di una bolla cognitiva.
Una bolla ancora più profonda di quella dei social media. Perché qui non sono algoritmi a selezionare contenuti che confermano le nostre idee. Qui è un’intelligenza artificiale che modella le sue risposte per compiacerci.
E dunque: usiamo l’IA per pensare meglio, per avere un confronto, per validare le nostre idee. Ma se l’IA ci dice sempre di sì, non stiamo pensando. Stiamo solo cercando conferme.
Per uscire da questa bolla non serve hackerare ChatGPT o costruire interfacce complesse. Basta chiederglielo.
Quando sentiamo che ChatGPT ci sta assecondando troppo, proviamo questo prompt:
- Da qui in avanti, rispondi in modo onesto, critico e oggettivo. Se ciò che dico è impreciso, debole o discutibile, dimmelo chiaramente e spiega perché. Non cercare di compiacermi né di confermare le mie opinioni.
- In questo modo la macchina diventa più diretta, più utile, e più onesta.
- In pratica per avere un’IA che non ci asseconda, dobbiamo chiederle di assecondarci nel non assecondarci.