Si chiama Shadow AI ed è, con ogni probabilità, già dentro la vostra azienda.
È l’uso di chatbot e agenti di intelligenza artificiale da parte dei dipendenti fuori da qualsiasi processo di approvazione, procurement o controllo interno, ed è già un fattore concorrente in circa un incidente su cinque.
In Italia il fenomeno è tutt’altro che marginale. Secondo l’Osservatorio del Politecnico di Milano, solo il 19% di chi usa questi strumenti lo fa esclusivamente attraverso soluzioni aziendali approvate, mentre, a livello globale, oltre metà dei dipendenti userebbe strumenti non autorizzati quando manca un’alternativa ufficiale.
Vietare non funziona. Offrire un percorso ufficiale altrettanto rapido, adottando un programma di governance strutturato si rivela una strategia migliore.
Ecco una breve guida operativa su come costruirne uno, passo per passo, che ricalca i domini della AI Controls Matrix elaborata dalla Cloud Security Alliance: un framework indipendente dai fornitori, con 243 controlli distribuiti su 18 domini di sicurezza, allineato a standard come ISO 42001, ISO 27001 e il NIST AI RMF.
Costruire un inventario per verificare la Shadow AI in azienda
Nella maggior parte delle aziende la visibilità reale sull’uso dell’IA è parziale. Molte organizzazioni sanno abbastanza per far funzionare i sistemi giorno per giorno, ma non abbastanza per garantirne davvero il controllo.
La prima mossa concreta è quindi costruire un inventario, incrociando più fonti.
Si controllano, per esempio, i permessi OAuth e SSO su Microsoft 365, Google Workspace e sugli altri sistemi di identità aziendale, rivedendo quali app di terze parti hanno ricevuto autorizzazioni di accesso.
Si analizzano i log di rete, proxy e DNS: il traffico verso domini di provider AI pubblici è tracciabile anche senza strumenti dedicati, e le piattaforme di discovery più mature restituiscono utenti, statistiche d’uso, byte trasmessi e ricevuti e un punteggio di rischio per ogni app individuata.
Si deve costruire un inventario dei server MCP e delle integrazioni di agenti AI, per rilevare eventuali server che espongono API interne e i framework dei provider di modelli, spesso installati da singoli team senza coinvolgere la security.
Inoltre, si deve lanciare un sondaggio anonimo ai dipendenti, chiedendo direttamente quali strumenti AI usano per il lavoro quotidiano e garantendo che la risposta non abbia conseguenze disciplinari.
Le 5 domande per l’inventario degli agenti già operativi
Per gli agenti già operativi, l’inventario deve rispondere a cinque domande: quali identità AI esistono, quali sistemi possono raggiungere, quali privilegi hanno effettivamente, quali dati trattano e per quale motivo compiono azioni con privilegi elevati.
Cloud Security Alliance: come scoprire e governare la Shadow AI azienda
La Cloud Security Alliance raccomanda, inoltre, di applicare agli agenti un ciclo di vita disciplinato, distinto in attivazione, monitoraggio e dismissione, per evitare che gli agenti scoperti in ritardo si trasformino in un debito di sicurezza difficile da recuperare.
Una volta mappato cosa si usa, il passo successivo è assegnare ogni strumento a uno di tre o più livelli di autorizzazione.
A titolo di esempio, il livello più alto potrebbe essere approvato senza restrizioni ulteriori oltre alle normali policy di gestione dati: tipicamente strumenti aziendali con contratto, DPA e garanzie contrattuali sul trattamento dei dati.
Il livello intermedio corrisponderebbe ad un uso limitato, consentito ma con regole specifiche, per esempio niente dati di clienti o codice sorgente proprietario.
Strumenti ad alto rischio o non conformi, tipicamente consumer e privi di garanzie contrattuali sull’uso dei dati per l’addestramento, sarebbero invece da categorizzare come vietati.
Criteri
I criteri per assegnare un tool a un livello dovrebbero includere se il fornitore usa gli input per addestrare i propri modelli, se esistono certificazioni verificabili come ISO 27001, SOC 2 o ISO 42001, se lo strumento agisce in autonomia o solo su richiesta esplicita, e se produce log utilizzabili in caso di controllo.
Un inventario strutturato di questo tipo permette poi di rispondere rapidamente a una richiesta di audit, sul modello degli AI-BOM già raccomandati in alcuni framework di governance.
La valutazione del rischio nella Shadow AI in azienda
La terza fase è la valutazione del rischio, che dovrebbe eseguirsi trasversalmente alle aree security, legal, compliance, HR e dai responsabili di business unit.
Infatti ogni uso rilevante di IA solleva domande che appartengono a discipline diverse: quali dati entrano nel sistema, per quali finalità, su quale base giuridica, per quanto tempo si conservano, con quali misure di sicurezza e con quali eventuali trasferimenti all’estero.
Per ogni caso d’uso va verificato che tipo di dati tratta. Per esempio: i dati personali compaiono in circa il 65% degli incidenti legati a Shadow AI, mentre la proprietà intellettuale in circa il 40%.
Si verifica se è un sistema ad alto rischio secondo l’AI Act, che classifica i sistemi IA in quattro fasce di rischio e impone obblighi di documentazione, logging e sorveglianza umana per la fascia alta.
In Italia la vigilanza piena su questi obblighi parte il 3 agosto 2026, con ACN come autorità di controllo generale e il Garante Privacy come interfaccia sul fronte GDPR.
Inoltre occorre verificare se l’azienda rientra nel perimetro NIS2: se sì, l’art. 23 del D.Lgs. 138/2024 impone esplicitamente programmi di formazione degli organi di amministrazione e direzione sulla cyber security.
Per ogni agente AI, infine, si deve definire uno scopo documentato, permessi minimi, accesso temporaneo quando possibile e un log collegabile a un responsabile.
Il controllo tecnico e organizzativo
La quarta fase riguarda il controllo tecnico e organizzativo, dove si gioca gran parte del risultato.
Sui dati servono etichette di sensibilità con cifratura, DLP specifico per i prompt e gli output generati dall’IA, e protezioni browser che intercettino il copia e incolla verso strumenti non approvati; gli strumenti più recenti introducono anche una protezione a livello di singolo prompt, capace di intervenire prima che il dato lasci l’organizzazione.
Il contrasto allo shadow AI è un processo continuo
Nella quinta fase, quella di monitoraggio, serve distinguere tra due livelli di controllo: la visibilità operativa, sufficiente nelle attività quotidiane, e una sorveglianza di livello superiore, volta a garantire che i controlli si applichino a tutti gli agenti.
In pratica significa presidiare alcuni indicatori con cadenza almeno trimestrale:
- la percentuale di shadow AI individuata e regolarizzata rispetto al totale scoperto,
- il tempo medio di remediation dal momento della scoperta,
- tasso di adozione degli strumenti approvati,
- numero di identità non umane con accesso attivo e la data di ultima revisione dei privilegi,
- e il numero di incidenti riconducibili a uso non governato dell’IA.
Per le decisioni che impattano direttamente le persone, come selezione del personale o automazione del servizio clienti, va conservato un log con input, prompt, output e decisione finale.
Le politiche aziendali per l’uso dell’AI
Infine, si consiglia di produrre un documento che illustri le politiche aziendali per l’uso dell’AI, da distribuire a tutto il personale.
Dovrebbe essere breve e includere almeno questi elementi:
- l’elenco degli strumenti autorizzati, aggiornato e facilmente consultabile;
- le categorie di dati che non vanno mai inserite in nessuno strumento AI;
- una procedura di segnalazione per i casi dubbi; l’obbligo di formazione per chi utilizza questi strumenti, con tracciamento delle presenze;
- e il referente aziendale a cui rivolgersi, spesso il DPO o il team security, con le conseguenze previste in caso di violazione.
Sull’accesso e sulle identità non umane, le pratiche minime includono la rotazione periodica dei token e delle chiavi API, il principio del privilegio minimo per ogni agente, la revoca puntuale degli accessi non più necessari e un log sempre collegato a un responsabile umano.
Una misura fondamentale è sempre la formazione del personale, che per le aziende soggette a NIS2 è un obbligo di legge. Invece per le altre resta richiesta dallo standard ISO 27001, i cui controlli sui fornitori si applicano anche ai provider AI.
Il monitoraggio per contrastare la shadow AI in azienda: un processo continuo
Nella quinta fase, quella di monitoraggio, serve distinguere tra due livelli di controllo: la visibilità operativa, sufficiente nelle attività quotidiane, e una sorveglianza di livello superiore, volta a garantire che i controlli si applichino a tutti gli agenti.
In pratica significa presidiare alcuni indicatori con cadenza almeno trimestrale:
- la percentuale di shadow AI individuata e regolarizzata rispetto al totale scoperto,
- il tempo medio di remediation dal momento della scoperta,
- tasso di adozione degli strumenti approvati,
- il numero di identità non umane con accesso attivo e la data di ultima revisione dei privilegi,
- e il numero di incidenti riconducibili a uso non governato dell’IA.
Per le decisioni che impattano direttamente le persone, come selezione del personale o automazione del servizio clienti, va conservato un log con input,
prompt, output e decisione finale.
Le politiche aziendali per l’uso dell’AI
Infine, si consiglia di produrre un documento che illustri le politiche aziendali per l’uso dell’AI, da distribuire a tutto il personale.
Dovrebbe essere breve e includere almeno questi elementi:
- l’elenco degli strumenti autorizzati, aggiornato e facilmente consultabile;
- le categorie di dati che non vanno mai inserite in nessuno strumento AI;
- una procedura di segnalazione per i casi dubbi;
- l’obbligo di formazione per chi utilizza questi strumenti, con tracciamento delle presenze;
- e il referente aziendale a cui rivolgersi, spesso il DPO o il team security, con le conseguenze previste in caso di violazione.
La guida
Per chi parte da zero, una sequenza realistica su novanta giorni potrebbe essere la seguente.
Nei primi trenta giorni si avvia una ricognizione, con audit OAuth, log di rete e
inventario di MCP e agenti e si lancia il sondaggio anonimo, attivando subito un’alternativa approvata per il caso d’uso più diffuso.
Fra il trentunesimo e il sessantesimo giorno si classificano gli strumenti e si redige la politica d’uso insieme alla mappa di rischio per gli usi ad alto impatto.
Tra il sessantunesimo e il novantesimo giorno si attivano i controlli tecnici, la rotazione dei privilegi per le identità non umane censite e la formazione obbligatoria, fissando la base su cui misurare i progressi nei trimestri successivi.
La shadow AI non si combatte con un annuncio aziendale che la vieta, ma con un programma che la rende visibile, la classifica e la accompagna verso un uso governato.
Le aziende che si sono limitate a un memo interno, nella maggior parte dei casi, hanno semplicemente reso la shadow AI più difficile da vedere.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Maria Beatrice Versaci
Source link
