Le cinque insidie dell’intelligenza artificiale per le Pmi italiane

La terza area critica riguarda i dati, il nutrimento imprescindibile delle Ai. Prima ancora di ragionare su quale strumento adottare, è necessario fare i conti con una realtà che molte PMI tendono a sottovalutare: i dati sono essenziali per il funzionamento dei sistemi, ma spesso mancano o sono inutilizzabili. Anagrafiche incomplete, documenti non armonizzati, informazioni disperse tra sistemi che non dialogano, know-how presente nella mente delle persone e mai riversato all’interno di una repository condivisa. Un patrimonio informativo che esiste sulla carta, ma che nella pratica non può alimentare nessuna intelligenza, artificiale o umana che sia. Investire in un modello AI avanzato senza aver prima strutturato questo patrimonio è un errore costoso: è come montare un motore da Formula 1 su una carrozzeria giocattolo. La potenza c’è, ma il sistema non regge. Mappare cosa si ha, in che formato si trova e chi vi può accedere è un lavoro meno affascinante di una demo tecnologica, ma indispensabile per costruire un’infrastruttura funzionante e affidabile. Senza questo passaggio, si accumula debito tecnico prima ancora di aver iniziato e si fa un investimento destinato a fallire.

Un altro tema determinante riguarda il controllo. Affidare all’AI lo sviluppo di codice o l’automazione di processi operativi senza una supervisione strutturata espone l’impresa a un rischio spesso invisibile finché non diventa un’emergenza: il lock-in tecnologico. Quando i flussi critici vengono costruiti e gestiti da sistemi automatizzati, senza che nessuno in azienda ne comprenda la logica sottostante, si genera una sorta di “codice alieno”: funziona, finché non smette di farlo e nessuno sa come intervenire. Accade quando i developer umani sono stati ridotti o eliminati per tagliare i costi, facendo cieco affidamento sulla tecnologia. Chi rimette le mani sul cuore cibernetico dell’azienda quando qualcosa si rompe? Chi sa come e perché è stata fatta quella specifica modifica? Mantenere una quota di presenza umana nei processi automatizzati, quello che in inglese si chiama human-in-the-loop, è una forma di presidio e tutela a cui nessuna azienda deve sottrarsi.

La quinta dimensione del rischio è quella forse più trascurata nel dibattito pubblico e riguarda le persone, in particolare i profili più giovani. Eliminare i junior per sostituirli con l’AI è una delle scelte apparentemente più efficienti nel breve periodo, ma anche una delle più controproducenti nel lungo. I modelli di intelligenza artificiale oggi disponibili sono stati addestrati su competenze, processi e know-how accumulati da generazioni di studiosi e professionisti che li hanno preceduti. Interrompendo la filiera della formazione pratica, dobbiamo chiederci chi saranno i senior di domani. Il mondo, nel frattempo, starà cambiando, quindi su quali competenze verrà addestrata l’AI del futuro? Se entreranno in azione i world model, da chi e come impareranno? L’impresa che smette di formare smette anche di sapere, perché perde la capacità di valutare criticamente gli output degli strumenti che usa, non sa decostruire il risultato per apportare correzioni, disgrega la memoria organizzativa e di conseguenza la cultura.

Possiamo pensare di “potenziare” i profili junior con l’Ai, ma anche qui c’è un grande punto di attenzione da considerare. In mancanza di una competenza di dominio forte e strutturata, passano inosservate le allucinazioni e gli errori di contesto tipici degli LLM. Inoltre, i giovani potrebbero cedere alla tentazione di perfezionare a monte il loro lavoro delegando all’Ai, mettendosi al sicuro da feedback negativi, soprattutto nei contesti dove manca totalmente la sicurezza psicologica. Per finire, va considerato il danno biologico a cui sono già sottoposte milioni di persone: l’atrofia cognitiva generata dall’uso di Ai che è stata oggetto di una recente ricerca del MIT Media Lab. Un senior cognitivamente atrofizzato ha comunque decenni di struttura alle spalle che possono compensare il maltolto, dovremmo iniziare a chiederci cosa può succedere agli junior, evitando di bruciare intere generazioni e accorgercene quando è troppo tardi.

Mettendo insieme queste cinque aree emerge un quadro che non ha nulla di anti-tecnologico. La questione non è se adottare l’AI, ma come farlo in modo ragionato: con più attenzione alla consistenza dei dati, al presidio umano dei processi critici, al valore delle persone che comunque rimane imprescindibile, a una lettura onesta dei costi reali e alla cura per ciò che rende un’impresa unica sul mercato. L’intelligenza artificiale senza governance sembra strumento di crescita ad alta efficienza, ma finisce per diventare debito tecnico, culturale e organizzativo. Il vero valore dell’AI per una PMI non risiede nella sostituzione delle persone per risparmiare oggi, ma nella capacità di capire se e come lo strumento va adottato e governato funzionalmente agli obiettivi aziendali. Per farlo, serve strategia, serve fermarsi e pensare, come solo noi umani sappiamo fare.

*Fondatrice e Co-CEO di Mudra