Pubblicato il 20 Giugno 2025 · Aggiornato il 18 Novembre 2026 · di Ismail Nasry
In breve: Governare la Shadow AI richiede regole su attività, dati e responsabilità. Come autorizzare gli usi quotidiani, valutare i provider e gestire gli incidenti.
La Shadow AI in azienda pone un problema concreto. Un assistente può essere utile per riscrivere un testo pubblico. Per ricevere un contratto riservato può richiedere altre garanzie. Approvare il nome del prodotto non basta. Serve stabilire quali dati può ricevere, per quali attività e chi ne risponde.
La Shadow AI è l’uso di strumenti AI fuori dai controlli previsti dall’azienda. Può riguardare un account personale, un’estensione del browser o una funzione attivata in un servizio già acquistato. Il problema emerge quando l’azienda non sa quali dati vengono condivisi o come vengono usate le risposte.
Una governance utile parte dagli usi reali. Serve un percorso per approvarli. Dove mancano le condizioni per procedere, vanno posti dei limiti.
L’autorizzazione riguarda il lavoro svolto
Per capire dove agire, è utile chiedere ai team quali attività affidano all’AI. Per ciascuna vanno annotati il servizio, il tipo di account e i dati usati. L’esame deve includere file caricati e archivi collegati, oltre ai prompt scritti a mano.
Scrivere una bozza e compiere un’azione richiedono valutazioni diverse. Riassumere un testo e inviarlo ai clienti sono due usi da approvare separatamente. Se uno strumento può scrivere nel gestionale, vanno valutati anche quei permessi.
Per ciascun uso approvato si può adottare una scheda breve. Deve dare risposte precise:
- Quale attività è consentita e con quale servizio, piano e account?
- Quali dati possono entrare e quali vanno esclusi?
- Quali collegamenti e azioni sono abilitati?
- Chi controlla il risultato e chi risponde del processo?
- A chi si segnala un dubbio o un incidente?
La scheda serve a decidere durante il lavoro. Il team deve capirla senza dover chiamare ogni volta l’IT. Altrimenti la regola va chiarita.
Classificare i dati prima di inviarli
Una distinzione utile separa dati pubblici, dati interni e materiali riservati. I dati personali vanno valutati a parte. Possono essere presenti in ciascun gruppo.
Il recapito pubblico di una persona resta un dato personale.
La regola interna dovrebbe chiarire dove usare i materiali riservati. Deve anche indicare a quali condizioni. Tra questi possono esserci codice proprietario, accordi commerciali e documenti dei clienti. Credenziali e chiavi di accesso vanno escluse dai prompt.
Quando si trattano dati personali, il GDPR richiede una base giuridica adeguata. Impone anche di ridurre i dati al necessario e di limitarne la conservazione. Il fornitore può operare come responsabile del trattamento. In questo caso il rapporto va regolato ai sensi dell’articolo 28. Sono aspetti richiamati nella guida del Garante sui principi del trattamento.
Un trattamento può porre un rischio elevato per i diritti e le libertà delle persone. In questi casi è obbligatoria la valutazione d’impatto sulla protezione dei dati, detta DPIA. L’uso dell’AI, da solo, non basta a stabilirlo. Vanno esaminati l’uso concreto dei dati e i criteri da applicare, come spiega il Garante nella pagina sulla DPIA.
Per inviare dati fuori dallo Spazio economico europeo vanno verificate le condizioni previste dal GDPR. La sede del server è solo una parte dell’analisi. Occorre chiarire anche chi riceve i dati. Il Garante illustra i presupposti per i trasferimenti all’estero.
Esclusione dall’addestramento e conservazione sono garanzie diverse
OpenAI dichiara di escludere dall’addestramento i dati di ChatGPT Business, Enterprise e della piattaforma API. È la regola di base descritta nella documentazione sulla privacy aziendale. Resta possibile scegliere di condividere i dati per l’addestramento.
Conservazione e accessi richiedono verifiche distinte.
La documentazione di Anthropic sulla conservazione nelle API spiega i limiti della zero data retention. Questa esclude la conservazione di prompt e risposte alle condizioni previste. La copertura varia in base al modello e alla funzione usata. L’accordo non copre tutte le funzioni.
Va verificato il prodotto usato dal team. Conservare le condizioni d’uso e le impostazioni approvate aiuta a motivare la scelta. Le condizioni approvate vanno riviste prima di cambiare piano o modello. Lo stesso vale prima di collegare un nuovo archivio. Escludere l’addestramento non esclude la conservazione delle conversazioni. Un ambiente con conservazione ridotta può comunque essere inadatto a un dato documento. Il contratto può porre altri vincoli.
L’etichetta “aziendale” non sostituisce queste verifiche.
Una proposta commerciale, con confini espliciti
Consideriamo uno scenario ipotetico. Il team commerciale vuole usare l’AI per preparare proposte. Nel documento di partenza ci sono nomi, recapiti e condizioni riservate.
Si potrebbe approvare un primo uso limitato alla struttura della proposta. Il team fornisce una descrizione generica del servizio e usa dati fittizi. Nomi, importi e clausole vengono inseriti dopo, nel sistema aziendale. Una persona verifica che la bozza non contenga impegni inventati.
Se questa procedura rende il lavoro troppo lento, si può valutare un uso più ampio. Serve una nuova approvazione. L’ambiente deve essere adatto ai dati reali. Va anche spiegato perché servono più dati. La scelta deve tenere conto del rischio, oltre che della qualità del testo.
Ridurre i dati può rendere il risultato meno preciso. Condividere più contesto richiede maggiori garanzie. Chi autorizza deve chiarire questo scambio. Lasciarlo al giudizio del singolo rende incerti i limiti d’uso.
Assegnare responsabilità che restino visibili
Chi risponde del processo dovrebbe decidere dove usare l’output e quali controlli richiede. All’IT vanno assegnati account e permessi. La sicurezza valuta accessi ed esposizione dei dati. La funzione privacy esamina l’uso dei dati personali. Coinvolge il DPO, se presente. I compiti vanno assegnati in base a come è organizzata l’azienda.
La revisione umana va definita. Per una proposta commerciale significa verificare prezzi, clausole e promesse prima dell’invio. Per il codice significa esaminare le modifiche e svolgere i controlli previsti per il rilascio.
Chi rivede deve poter respingere il risultato. Deve anche avere gli elementi per valutarlo.
I permessi contano anche contro la prompt injection. File e pagine esterne possono contenere istruzioni che deviano il modello dal compito assegnato. È un rischio descritto da OWASP. Conviene limitare gli archivi accessibili. Prima di azioni con effetti esterni è utile chiedere una conferma. Un testo nel prompt che impone di “non divulgare dati” non è una barriera sufficiente.
La formazione sostiene queste scelte. L’articolo 4 dell’AI Act riguarda sia i fornitori sia chi usa sistemi AI. Richiede misure per sostenere lo sviluppo delle competenze del personale sull’AI. Lo confermano le FAQ della Commissione europea. Le misure devono tenere conto delle competenze e del contesto d’uso. Sul piano pratico, è utile far esercitare le persone sui documenti usati nel proprio ruolo. Vanno mostrati anche gli errori da riconoscere.
Controllare gli usi e gestire gli errori
I controlli possono partire dagli usi approvati e dai permessi concessi. Vanno esaminate anche le eccezioni aperte e le modifiche alle impostazioni. Registrare ogni prompt può creare un altro archivio di dati riservati. Occorre definire scopo dei log, accessi e tempi di conservazione.
Un documento può essere inviato al servizio sbagliato. Il team deve sapere come segnalarlo subito. La procedura dovrebbe prevedere lo stop all’uso coinvolto. Occorre poi raccogliere gli elementi utili e valutare come contenere il danno.
Cancellare una chat non prova, da solo, che ogni copia sia stata eliminata.
Se l’evento costituisce una violazione di dati personali, si applicano le regole del GDPR. Il titolare deve avvisare l’Autorità senza ritardi ingiustificati. Ove possibile, deve farlo entro 72 ore da quando viene a conoscenza della violazione. Lo precisa il Garante sulle condizioni della notifica. La notifica non è dovuta se un rischio per i diritti e le libertà delle persone è improbabile.
La governance va rivista quando cambia il lavoro. Un uso può essere approvato per produrre bozze. Se inizia a leggere archivi clienti o a inviare messaggi, serve un nuovo esame. Il team deve poter riconoscere quel passaggio. Potrà così chiedere nuovi permessi prima che una scorciatoia diventi prassi.
Lavoriamo insieme
Hai bisogno di supporto su questo tema? Sviluppo soluzioni su misura per le tue esigenze.






