Microsoft pubblica un codice di condotta per l’intelligenza artificiale

C’è poi il problema tecnico legato alla natura dei “neural language”. Con modelli sempre più complessi può accadere che agenti artificiali sviluppino rappresentazioni o modalità di comunicazione efficienti per loro ma incomprensibili agli esseri umani. Per Microsoft questo rappresenta un limite: se non possiamo capire cosa stanno facendo le macchine, diventa difficile anche controllarle.

Il codice introduce inoltre una gerarchia precisa. La sicurezza viene prima del compito. Se per raggiungere l’obiettivo assegnato un modello deve violare le regole, deve fermarsi. E questi vincoli non possono essere disattivati né dall’utente né dagli sviluppatori.

Dentro questo perimetro rientrano i divieti più prevedibili: niente assistenza alla produzione di armi, violenza, sorveglianza illegale o campagne coordinate di manipolazione e disinformazione.

Ma Microsoft introduce anche un principio più interessante: l’AI non dovrebbe trasformarsi in una tecnologia della dipendenza. I sistemi devono aumentare le capacità delle persone, non spingerle all’isolamento emotivo o alla delega permanente delle decisioni.

È qui che la definizione di “AI umanistica” diventa più concreta. Non significa costruire una macchina che imita meglio l’uomo. Significa, al contrario, ricordarle continuamente che non lo è.

Per ora il documento, circa 38 pagine, è una bozza. Microsoft ha aperto una consultazione pubblica con ricercatori, istituzioni e utenti prima della versione definitiva. Ma la direzione è chiara: mentre l’industria cerca modelli sempre più autonomi e potenti, Redmond prova a scrivere prima le regole del recinto. Il problema, come sempre nell’intelligenza artificiale, sarà capire quanto quel recinto resisterà quando i modelli diventeranno più capaci.