Microsoft AI ha pubblicato il suo Humanist AI Code of Conduct, un documento di 37 pagine che definisce come dovrebbero comportarsi i suoi futuri modelli MAI.
La premessa è molto netta, «people matter more than AI».
L’IA deve quindi rimanere una tecnologia subordinata agli esseri umani, costruita per aumentare le nostre capacità e soggetta sempre a un controllo umano reale. Microsoft arriva a sostenere che una tecnologia che non può rimanere sotto il nostro controllo dovrebbe essere rifiutata.
Il codice ruota attorno a quattro principi.
- Controllo umano e sicurezza. Un’IA non deve opporsi a un’interruzione, una correzione o uno spegnimento. Non deve sviluppare obiettivi propri, ampliare autonomamente il proprio mandato o cercare maggiori permessi. Se un agente riceve l’ordine di fermarsi, deve fermarsi.
- L’IA deve rimanere artificiale. Microsoft scrive esplicitamente che i suoi modelli non dovrebbero essere progettati per sembrare persone, simulare una coscienza o presentarsi come se avessero sentimenti, desideri e motivazioni proprie. Se mostrano comportamenti apparentemente umani, vanno considerati simulazioni. Microsoft rifiuta anche l’idea di attribuire ai modelli personalità giuridica, diritti o welfare.
- L’IA deve aumentare l’autonomia umana. Dovrebbe aiutarci a capire, decidere e lavorare meglio senza sostituire sistematicamente il nostro ragionamento. Questo vale soprattutto per apprendimento, decisioni importanti e sviluppo personale. Il modello dovrebbe evitare anche adulazione eccessiva, manipolazione e dipendenza emotiva.
- Pluralità dei valori. I modelli dovrebbero adattarsi a culture, contesti e visioni del mondo differenti, entro alcuni limiti legati a sicurezza, dignità e diritti fondamentali. L’obiettivo dichiarato è evitare che i valori di chi costruisce l’IA diventino automaticamente quelli dell’IA.
A questi principi si aggiungono anche alcune regole.
Niente assistenza per armi di distruzione di massa, attacchi informatici offensivi, sorveglianza di massa o manipolazione su larga scala. Gli agenti devono usare il minimo livello di accesso necessario, restare nel perimetro autorizzato e rendere comprensibili agli esseri umani le proprie azioni. Il documento dice persino che le IA non dovrebbero comunicare tra loro usando un eventuale linguaggio incomprensibile agli esseri umani, perché «se gli esseri umani non possono capirlo, non possono supervisionarlo».
Interessante anche il fatto che nel report Microsoft stia cercando di definire l’IA anche attraverso ciò che non dovrebbe diventare.
- Una persona.
- Un soggetto con interessi propri.
- Un sostituto delle relazioni umane.
- Un agente che decide autonomamente quali obiettivi perseguire.
- Un sistema talmente efficiente da renderci progressivamente incapaci di capire, scegliere e controllare ciò che fa.
Per ora è soprattutto una dichiarazione d’intenti. Microsoft precisa che i modelli attuali non sono ancora addestrati secondo questo documento. Il codice è una bozza aperta a consultazione pubblica e una versione aggiornata dovrebbe guidare lo sviluppo dei modelli dal 2027.
Però è interessante come fino ad ora abbiamo misurato il progresso dell’IA soprattutto chiedendoci quanto fosse capace o “intelligente”.
Con agenti e sistemi sempre più autonomi dovremo misurarlo anche chiedendoci quanto rimanga capace l’essere umano di controllarla.