L’IA è un test di maturità per noi, non per la tecnologia

Nel suo ultimo saggio, “The Adolescence of Technology”, Dario Amodei, fondatore di Anthropic, l’azienda che ha creato Claude, paragona la nostra epoca all’adolescenza della tecnologia. Un momento in cui all’umanità sta per essere consegnato un potere quasi inimmaginabile, anche se non è chiaro se i nostri sistemi sociali, politici e tecnologici abbiano la maturità per gestirlo.

Amodei paragona l’IA a milioni di menti artificiali più intelligenti dei migliori esseri umani, che operano più velocemente, in parallelo, su scala. Come “un paese di geni chiuso in un data center”. Un potere che può portarci prosperità o distruzione. E la differenza tra i due scenari dipende interamente da noi.

Tra i rischi elencati dal fondatore di Anthropic:

  • Sistemi autonomi che potrebbero sviluppare comportamenti imprevedibili o ingannevoli.
  • L’IA che abbatte le barriere di competenza, rendendo accessibili a chiunque capacità potenzialmente distruttive.
  • Stati o aziende che potrebbero usare l’IA per sorveglianza totale e controllo sociale permanente.
  • Shock economico: distruzione rapida del lavoro cognitivo, disuguaglianza estrema, concentrazione della ricchezza.
  • Effetti indiretti: dalla perdita di senso e autonomia fino a nuove dipendenze psicologiche.
  • Rischi che possono essere mitigati addestrando l’IA sui valori e non solo sulle regole, investendo nella trasparenza, costruendo guardrail senza soffocare l’innovazione, e difendendo le democrazie senza diventare autocrazie.
  • Nulla di eccezionalmente nuovo. Il punto più interessante però è il ribaltamento di prospettiva.
  • Quando parliamo di IA, la domanda che ci poniamo è quasi sempre: la tecnologia è pronta? È abbastanza intelligente? È abbastanza sicura?
  • Amodei capovolge la questione. La tecnologia sta crescendo a una velocità impressionante. Il problema è se noi stiamo crescendo altrettanto in fretta.
  • Siamo pronti a gestire uno strumento che può creare e distruggere su scala? Abbiamo le istituzioni, le regole, la cultura, l’educazione per farlo?
  • La risposta a questa domanda, ad oggi, sembra essere: non ancora.
  • Lo vediamo nei governi che regolamentano senza capire. Nelle aziende che adottano senza formare. Nelle scuole che vietano senza insegnare. Nelle persone che accendono la macchina prima di accendere il cervello.
  • Il messaggio di Amodei non è pessimista. È esigente. Non possiamo fermare l’IA. Ma possiamo crescere abbastanza in fretta da non farci travolgere da ciò che abbiamo creato. È un rito di passaggio. E come tutti i riti di passaggio, non è la prova a definire chi siamo. È come la affrontiamo.
  • Qui il saggio completo di Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology