Fino a poco tempo fa c’era un limite abbastanza naturale a quello che potevamo fare da soli.
Se non sapevamo programmare, difficilmente scrivevamo software. Se non conoscevamo il diritto, difficilmente redigevamo un contratto. Se non sapevamo usare Excel, difficilmente costruivamo un modello finanziario complesso.
L’Intelligenza Artificiale sta eliminando rapidamente questo limite.
Oggi possiamo produrre codice, contratti, analisi, piani di marketing, presentazioni e business plan anche senza possedere tutte le competenze necessarie per realizzarli.
E questa è una possibilità enorme. Che nasconde però un problema.
In un recente articolo Itamar Gilad sottolinea come tradizionalmente siamo capaci di giudicare più cose di quante siamo capaci di fare. Un manager può valutare il lavoro di un designer senza saper progettare come lui. Un product manager può discutere una scelta tecnica senza essere in grado di scrivere quel codice.
Con l’IA questa relazione può invertirsi.
La nostra capacità di produrre si espande molto più velocemente della nostra capacità di valutare ciò che abbiamo prodotto. Gilad chiama la zona che si crea tra queste due curve “Danger Zone”.
Possiamo generare un programma funzionante senza accorgerci di una falla di sicurezza. Possiamo far scrivere un contratto senza riconoscere una clausola problematica. Possiamo ottenere un’analisi finanziaria molto convincente senza sapere se i presupposti su cui si basa abbiano senso.
E chiedere alla stessa IA di controllare il proprio lavoro risolve solo in parte il problema. Gilad ricorda che i modelli possono individuare errori che ci sfuggono, ma possono anche rafforzare la nostra convinzione di avere ragione proprio nei campi che conosciamo meno.
Questo cambia anche il significato della competenza. Perché riuscire a fare qualcosa e sapere se è fatta bene stanno diventando due capacità sempre più separate.
Uno dei rischi maggiori dell’IA potrebbe quindi arrivare in quella “Danger Zone” quando saremo abbastanza competenti da produrre quasi tutto, senza essere altrettanto competenti da capire quando quello che abbiamo prodotto è sbagliato.