In un recente paper, Michael Townsen Hicks, James Humphries e Joe Slater della University of Glasgow, sostengono che ChatGPT sia una stronzata (loro usano il termine «bullshit») basandosi sulla teoria di Harry Frankfurt, che distingue tra due tipi di «bullshit»:
- Le «Hard bullshit» sono le stronzate intenzionali, quelle pensate e fatte apposta per ingannare il pubblico.
- Le «Soft bullshit» sono le stronzate non intenzionali, quelle fatte involontariamente senza la volontà di ingannare il pubblico.
La tesi centrale del paper è che modelli come ChatGPT sono dei «soft bullshitter» che producono testo che non è necessariamente falso, ma che è indifferente alla verità, citando come giustificazione le allucinazione che questi modelli possono avere.
Questa narrazione però si basa su un concetto che è fortemente sbagliato: vedere strumenti come ChatGPT come «Fact Database», come oracoli cui chiedere la verità.
Questo è un utilizzo sbagliato della macchina che non dipende dalla macchina in sé ma da come noi la usiamo.
Sotto ogni messaggio di ChatGPT è chiaramente indicato che ChatGPT può commettere errori. Sam Altman, fondatore di OpenAI e quindi di ChatGPT, ha sempre detto che il suo prodotto non è un «Fact Database» al pari di un’enciclopedia o di un motore di ricerca ma un «Reasoning Engine» con cui fare dei ragionamenti non cui chiedere delle risposte certe.
Se usiamo ChatGPT o Claude o qualsiasi altro modello di generazione di testi come prima usavamo Google o Excel siamo noi che stiamo sbagliando. Non la macchina. Siamo noi ad avere un problema di allucinazioni. Non la macchina.
Lo stesso vale anche per altri modelli come Claude di Anthropic dove è chiaramente indicato fin dalla prima volta che lo utilizziamo: «Don’t rely on our conversation alone without doing your own independent research.»
Se usiamo ChatGPT o Claude o qualsiasi altro modello di generazione di testi come prima usavamo Google o Excel siamo noi che stiamo sbagliando. Non la macchina. Siamo noi ad avere un problema di allucinazioni. Non la macchina.