Su AEON Nick Bostrom scrive: «Potremmo vedere la creatività umana come un processo di estrazione di palline da un’urna gigante. Le palline rappresentano idee, scoperte e invenzioni. Nel corso della storia, abbiamo estratto molte palline. La maggior parte di esse è stata benefica per l’umanità. Le altre sono state varie sfumature di grigio: un mix di bene e male, il cui effetto netto è difficile da stimare. Quello che non abbiamo ancora estratto è una palla nera: una tecnologia che invariabilmente distrugge la civiltà che l’ha inventata. Questo non perché siamo stati particolarmente attenti o saggi quando si tratta di innovazione. Siamo solo stati fortunati. E se ci fosse una palla nera da qualche parte nell’urna? Se la ricerca scientifica e tecnologica continua, alla fine la tireremo fuori e non saremo in grado di rimetterla dentro? Possiamo inventare, ma non possiamo dis-inventare. La nostra strategia sembra essere quella di sperare che non ci sia una palla nera.»
È un concetto interessante. Quante palle nere sono state inventate e quante ne verranno inventate. La bomba atomica è una palla nera? L’Intelligenza Artificiale potrebbe esserlo. Dipende. Ovviamente dipende da come noi umani usiamo e useremo la tecnologia che inventiamo e inventeremo.