Il ciclo di vita dell’intelligenza artificiale prevede almeno due fasi fondamentali:
- la fase di implementazione e acquisizione;
- la fase di manutenzione.
- la gestione rigorosa degli accessi;
- credenziali robuste;
- autenticazione multifattore;
- disattivazione della cronologia delle chat quando può comportare il trasferimento involontario di informazioni sensibili ai fornitori;
- selezione dei fornitori secondo criteri basati su sicurezza, affidabilità e controllabilità.
In entrambe le fasi è necessario definire una governance organica che consenta di verificare nel tempo la qualità, la sicurezza e l’efficacia dei sistemi implementati, assicurando che questi rimangano allineati agli obiettivi dell’organizzazione e conformi ai requisiti normativi. Per i sistemi ad alto rischio (come definiti dall'AI Act), questa governance deve includere un processo continuo e iterativo di gestione del rischio su tutto il ciclo di vita, come previsto dall’Art. 9 dell’AI Act, che impone verifiche periodiche, aggiornamenti, controlli di robustezza e monitoraggi costanti dei risultati.
Implementare e acquistare soluzioni di IA
Il percorso di adozione di una soluzione di intelligenza artificiale è complesso e richiede spesso una progressione graduale fatta di sperimentazioni, prototipi e iniziative pilota prima di arrivare a una distribuzione ampia e capillare.
La scelta degli strumenti deve essere supportata da un impegno contrattuale preciso con i fornitori.
I contratti devono disciplinare l’uso dei dati caricati nei sistemi, vietare ogni forma di riutilizzo dei dati per l’addestramento, assicurare la segregazione delle informazioni, definire misure di sicurezza adeguate e prevedere la possibilità di tracciamento, auditing e controlli di conformità.
È generalmente preferibile adottare soluzioni regolamentate e ospitate in ambienti informatici sicuri e isolati dal resto dell’infrastruttura, come tenant dedicati, cloud aziendali segregati o infrastrutture on‑premise, poiché ciò consente di proteggere meglio i dati, governare gli accessi e gestire con precisione le funzionalità autorizzate.

Stabilito il perimetro tecnologico, assume un ruolo centrale il modo in cui le persone interagiscono con i modelli. Per questo devono essere previste attività di formazione.
I dipendenti devono comprendere che non tutte le piattaforme sono idonee a trattare dati interni o riservati e che le informazioni sensibili o strategiche non devono mai essere inserite in strumenti non autorizzati.
È importante sottolineare che l’IA supporta il lavoro umano ma non sostituisce il giudizio professionale: chi utilizza un modello rimane pienamente responsabile degli output prodotti, deve verificarne l’accuratezza, riconoscere possibili bias o allucinazioni e validare criticamente le raccomandazioni prima di applicarle a documenti o decisioni ufficiali.
La trasparenza nei confronti di colleghi, responsabili e clienti è parte integrante di questa responsabilità e comprende l’obbligo di dichiarare quando un contenuto è stato generato con il supporto dell’IA e, quando previsto, di etichettare i contenuti sintetici o manipolati, come richiesto dall’Art. 50 dell’AI Act.
Stabilire una politica per l'IA
Per guidare l’intera organizzazione nell’adozione dell’intelligenza artificiale, è necessario adottare una politica aziendale chiara, approvata dalla Direzione e aggiornata nel tempo.
La politica deve definire i principi per l’uso corretto e sicuro dell’IA, includere misure per la protezione dei dati personali, la riservatezza delle informazioni, la prevenzione dei bias, il rispetto della proprietà intellettuale, la sicurezza informatica e l’osservanza degli obblighi normativi. Deve inoltre individuare ruoli e responsabilità, chiarire chi può approvare nuovi strumenti, come vengono gestite le richieste di integrazione e quali procedure devono essere seguite per garantire l’uso conforme dei sistemi.
Un elemento essenziale della politica riguarda l’obbligo di seguire le istruzioni del provider o developer. Per i sistemi ad alto rischio, tali istruzioni devono essere dettagliate, chiare e complete e comprendere indicazioni sul funzionamento del modello, sui limiti, sulle condizioni operative, sull’accuratezza e sulla robustezza attesa, sui meccanismi di supervisione e sulle misure di sicurezza.
L’AI Act impone ai deployer (utilizzatori) l’obbligo di usare il sistema solo secondo le istruzioni ufficiali, di garantire una supervisione umana adeguata, di monitorare il sistema, di sospenderlo in caso di rischi e di conservare i log generati per periodi adeguati, come previsto dall’Art. 26. Accanto a ciò, l’organizzazione deve predisporre istruzioni interne agli utenti, derivate da quelle del provider e arricchite con informazioni operative specifiche del contesto aziendale.
Tali istruzioni devono spiegare in modo chiaro e accessibile come funziona il modello (interpretabilità), come e perché viene generato un certo output (spiegabilità), se il sistema aggiunge etichette di contenuto generato da IA, quali funzioni sono consentite e quali vietate, quali sono le condizioni che potrebbero influenzare la qualità dei risultati e quali controlli devono essere effettuati prima di utilizzare un output.
Devono inoltre includere informazioni sull’architettura del sistema, sull’origine e il razionale dei dati utilizzati per addestramento e test, sulle prestazioni del modello in relazione a diversi gruppi di utenti e sui bias potenziali, con le relative strategie di mitigazione. Questi elementi discendono dagli Artt. 9, 13, 26 e 50 dell’AI Act e costituiscono un fondamento di sicurezza e responsabilità.
Identificare e prioritizzare le opportunità
Nella fase iniziale, l’organizzazione deve studiare la materia e comprenderne la complessità, coinvolgendo esperti interni o esterni che possano supportare la definizione di una strategia di adozione. È essenziale valutare quali processi potrebbero beneficiare dell’intelligenza artificiale, quali dati sono disponibili e quali rischi ne derivano.
Una valutazione preliminare dei rischi, soprattutto quelli legati alla sicurezza informatica, è fondamentale per selezionare le opportunità con il miglior equilibrio tra valore potenziale e esposizione al rischio.
Valutare le risorse necessarie
Quando le opportunità sono state identificate, è necessario valutare le risorse richieste.
Dal punto di vista dei dati, occorre definire con precisione quali saranno utilizzati per addestrare o alimentare il modello, distinguendo fra dati pubblici, interni, personali, sensibili o soggetti a diritti di proprietà intellettuale.
Dal punto di vista infrastrutturale, è necessario decidere se la soluzione debba risiedere in ambienti cloud commerciali, cloud aziendali segregati o infrastrutture on‑premise, a seconda dei requisiti di sicurezza, scalabilità e governance.
Le competenze richieste devono essere adeguatamente valutate. In alcuni casi sono disponibili risorse interne; in altri casi sarà necessario ricorrere a partner esterni con comprovata esperienza in data science, ingegneria dei modelli e sicurezza.
Ogni sistema di IA deve avere un referente aziendale, responsabile della gestione del ciclo di vita del modello e del rispetto della policy interna, incluse le istruzioni del provider.
Valutare il business case
Una volta determinati obiettivi e risorse, è necessario valutare il business case, tenendo conto sia dei costi diretti — come il costo del modello, dell’infrastruttura e delle competenze umane — sia dei costi indiretti, come quelli per la formazione, la supervisione, la sorveglianza continua, l’etichettatura dei contenuti, la trasparenza verso gli utenti e il mantenimento dei log di audit.
Poiché il costo dei modelli di IA cresce in proporzione al loro utilizzo, è indispensabile stimare con attenzione la domanda prevista, ad esempio il volume di interazioni nel caso di un chatbot.
Sviluppare progetti pilota
I progetti pilota rappresentano un passaggio essenziale per verificare sul campo la reale utilità del modello e per identificare eventuali limiti non emersi nelle fasi teoriche.
Tali progetti pilota devono essere svolti in ambienti sicuri, segregati (sandboxing e network isolation) e monitorati, con controlli specifici contro attacchi mirati come il prompt injection o il data poisoning.
Devono essere predisposte modalità di tracciamento delle operazioni, documentazione delle modifiche, e verifiche sulla robustezza del modello.
Se il pilota prevede interazione con persone o la generazione di contenuti sintetici, devono essere rispettati gli obblighi di trasparenza e labeling previsti dall’Art. 50.
Implementare le misure di sicurezza
Quando il sistema è pronto per essere implementato, la sicurezza deve essere assicurata attraverso:
Per i sistemi ad alto rischio, il deployer (utilizzatore) deve monitorare costantemente il funzionamento, sospendere l’uso quando emergono rischi, informare le persone coinvolte ove necessario e conservare i log relativi al sistema per almeno sei mesi, come stabilito dall’Art. 26 dell’AI Act.
Formare il personale
La formazione è un elemento imprescindibile per creare una cultura dell’uso responsabile dell’IA.
Deve essere erogata in modo periodico e modulato per ruolo, includendo sia aspetti tecnici sia aspetti etici e operativi. Gli utenti devono comprendere la natura predittiva dei modelli, essere consapevoli dei limiti dell’IA, saper riconoscere bias e allucinazioni e valutare criticamente gli output prima di utilizzarli.
Un ruolo fondamentale è svolto dal prompt engineering, che permette agli utenti di formulare richieste chiare, contestualizzate e verificabili, evitando nel contempo di inserire informazioni riservate o sensibili.
Questa competenza non solo migliora la qualità degli output, ma riduce anche il rischio di errori, fraintendimenti o divulgazioni involontarie.
Per i sistemi ad alto rischio, la formazione deve abilitare gli utenti a interpretare correttamente l’output e a utilizzare il sistema secondo le istruzioni, come richiesto dall’Art. 13.
Manutenzione
Una volta implementato, il sistema di IA necessita di un monitoraggio continuo per garantire che rimanga efficace, sicuro e allineato agli obiettivi iniziali.
Le applicazioni di IA tendono nel tempo a disallinearsi e a degradare le proprie prestazioni.
È quindi necessario prevedere controlli regolari sugli accessi, sulle anomalie e sulle prestazioni complessive del sistema. Queste attività sono parte integrante del processo di gestione del rischio, che deve essere applicato per tutta la durata operativa del modello.
Deriva algoritmica
La deriva algoritmica rappresenta uno dei rischi più insidiosi dei sistemi basati su IA: la natura dinamica e probabilistica dei modelli può portare, nel tempo, a risultati inaccurati o non allineati ai requisiti etici, operativi o normativi.
Un approccio efficace alla gestione di questo rischio deve prevedere valutazioni periodiche dei rischi, analisi ricorrenti sulla qualità dei dati, attività di pulizia, anonimizzazione e tracciabilità degli stessi, documentazione completa del modello attraverso strumenti come le model card, e l’adozione di tecniche di spiegabilità che consentano di comprendere come il modello prende decisioni.
Devono essere definiti meccanismi di supervisione umana, test contro input manipolati e misure di protezione contro furti o reverse engineering, come watermarking e tecniche di obfuscation.
Infine, sono necessari processi di sorveglianza post‑market che includano monitoraggio continuo, rilevazione degli incidenti e miglioramento costante della soluzione.