Generativa. Non Esecutiva.
La tecnologia tradizionale esegue: stesso input, stesso output, ogni volta. L’IA generativa no. Stesso prompt, dieci risposte diverse. Non è un difetto. È la sua natura.
Quando genera un testo impreciso, lo correggiamo. Quando inventa una fonte, la verifichiamo. Quando produce un’immagine con sei dita, sorridiamo e rigeneriamo.
Quel margine di imprevedibilità è accettabile. È il prezzo di uno strumento così potente.
Ma cosa succede quando da quella imprevedibilità dipende la vita di una persona?
Quando lo stesso margine che ci fa sorridere davanti a un’immagine sbagliata decide se colpire un obiettivo militare o un ospedale? Se il bersaglio è un combattente o un civile?
Un modello che “allucina” un riferimento bibliografico è un inconveniente. Un modello che “allucina” un bersaglio è una strage.
È esattamente il motivo per cui Anthropic ha rifiutato di fornire Claude al Pentagono per armi completamente autonome. Il prezzo? Trump ha messo al bando l’azienda da tutte le agenzie federali americane. E ha firmato un contratto con OpenAI, anche se ChatGPT è meno evoluto di Claude.
Le armi parzialmente autonome assistono il soldato. Ma la decisione finale resta umana. C’è un dito su un grilletto. C’è un cervello che valuta il contesto.
Le armi completamente autonome tolgono l’umano dal processo. Selezionano il bersaglio e lo ingaggiano da sole. Usando un sistema che, per definizione, genera risposte diverse a partire dagli stessi dati.
È come dare a un’IA il prompt “elimina la minaccia” e fidarsi che ogni volta interpreterà “minaccia” nello stesso modo. Senza eccezioni. Senza allucinazioni.
Chi ha usato l’IA anche solo una volta sa che non funziona così.
Generativa è una parola bellissima quando parliamo di testi, immagini, musica. E persino di dati e ricerche.
Diventa terrificante quando parliamo di obiettivi militari.