I sistemi AI, per loro natura, elaborano e apprendono da grandi quantità di dati. Questa caratteristica, se non adeguatamente governata, può determinare fenomeni di esfiltrazione, riutilizzo o ricostruzione di informazioni riservate (p.e. dati personali, codici sorgente, documenti tecnici, progetti brevettabili, materiali coperti da diritto d’autore).
Come gli LLM apprendono e collegano informazioni
I LLM sono progettati per apprendere da diverse fonti di dati (p.e. immagini e testi) e costruire connessioni semantiche tra concetti anche molto distanti tra loro.
Operando grazie al riconoscimento automatico di pattern al fine di generare contenuti creativi, gli LLM non distinguono, in modo nativo, tra informazione pubblica e informazione proprietaria.
In altri termini, se un LLM è addestrato con dati riservati o se interagisce con utenti che forniscono input contenenti informazioni riservate, queste possono:
- restare memorizzate nei vettori di apprendimento;
- in determinate circostanze, riemergere nelle risposte del modello, anche in contesti diversi da quello originario, generando un rischio di divulgazione non autorizzata.
- Prompt leakage: invio di richieste apparentemente innocue che inducono il modello a fornire informazioni o riferimenti presenti nel suo contesto di addestramento;
- Training data leakage: esfiltrazione di dati inclusi nei dataset utilizzati per il training o il fine-tuning del modello;
- Contextual inference: ricostruzione indiretta di informazioni riservate mediante correlazioni semantiche, anche quando tali dati non sono esplicitamente richiamati;
- Esfiltrazione intenzionale o accidentale: estrazione di dati riservati, che possono poi essere riutilizzati da altri utenti o da modelli derivati.
- The Meta AI App Lets You ‘Discover’ People’s Bizarrely Personal Chats
- how Meta's AI app was full of accidental public posts that were really personal
- Hundreds of private chats are being exposed in Meta AI's new app amid major privacy flaw
In uno scenario del genere, un singolo errore umano (per esempio, copiare nel prompt un frammento di codice proprietario o un piano industriale) può determinare un’esfiltrazione di conoscenza che nessuna misura tecnica è poi in grado di annullare completamente.
Vettori di rischio
Più tecnicamente, alcuni vettori di rischio relativi alla perdita di riservatezza dei dati sono:
Questi vettori si combinano con la crescente difficoltà nel tracciare la provenienza dei contenuti generati, rendendo complesso stabilire se un testo, un’immagine o un algoritmo siano frutto originale di un autore umano o di un’elaborazione basata su dati di terzi.
Il rischio per il vantaggio competitivo e per la reputazione
Nel contesto dell’AI generativa, il valore competitivo di un’organizzazione può essere eroso non tanto da un furto diretto di dati, quanto dalla riproduzione involontaria di conoscenza incorporata nei modelli.
Un caso di studio può essere quello di un LLM che, dopo aver appreso procedure operative, algoritmi o report tecnici di un’organizzazione, fornisca a un utente esterno risposte che rivelano parte di tali conoscenze: anche se tale evento non può essere considerato un atto doloso, l’effetto pratico è quello di una fuga di Know-How.
Le implicazioni non si limitano all’ambito tecnico: un evento di questo tipo può danneggiare la reputazione, compromettere rapporti contrattuali e comportare responsabilità legali in materia di protezione dei dati personali e di tutela della proprietà intellettuale e segreto industriale.