Non è un rischio teorico. È successo, sta agli atti, e nessuno di questi casi ha richiesto un hacker. Solo persone che lavoravano, un bottone «condividi», un database lasciato aperto, un'ordinanza di tribunale.
L'errore di buona fede
Primavera 2023, Samsung. In venti giorni, tre volte: ingegneri dei semiconduttori incollano in ChatGPT codice sorgente riservato e il verbale di una riunione interna — per farsi aiutare, come chiunque. L'azienda vieta i chatbot a tutto il personale (Bloomberg, 2 maggio 2023). Nello stesso periodo i regolatori professionali iniziano ad ammonire: l'Upper Tribunal britannico avverte gli avvocati che caricare atti riservati in una piattaforma AI aperta può violare la riservatezza e far perdere il privilegio legale; per i medici, i dati dei pazienti dati a un chatbot escono dalla tutela del segreto medico — il fornitore dell'AI non vi è vincolato.
Il bottone «condividi»
Estate 2025. Le conversazioni «condivise» di ChatGPT finiscono indicizzate da Google: migliaia di chat leggibili da chiunque con una ricerca, incluse dipendenze, questioni di salute, dati di clienti. OpenAI ritira la funzione parlando di un esperimento che «creava troppe occasioni di condividere per errore» (TechCrunch, 31 luglio 2025). Un mese dopo tocca a Grok: centinaia di migliaia di chat condivise, indicizzate perché il link non bloccava i motori di ricerca.
L'infrastruttura di qualcun altro
Gennaio 2025, DeepSeek. I ricercatori di Wiz trovano un database del fornitore accessibile dal web senza alcuna autenticazione: oltre un milione di righe di log, con cronologie delle chat degli utenti e chiavi interne. Chiuso in fretta dopo la segnalazione — ma chiunque l'avesse trovato prima, aveva tutto.
Il tribunale
2025–2026. Nella causa del New York Times contro OpenAI, il tribunale ordina di conservare tutte le conversazioni — comprese quelle che gli utenti avevano cancellato — e a gennaio 2026 conferma la consegna di 20 milioni di chat ai querelanti (Bloomberg Law). A febbraio 2026 un giudice federale stabilisce che i documenti preparati con un'AI consumer non sono coperti dal segreto difensivo: una trentina di documenti di un imputato vanno consegnati alla controparte. Tradotto: quello che si scrive a un'AI in cloud può essere conservato contro la volontà di chi l'ha scritto, e un giorno letto in un'aula.
Quattro strade diverse — l'errore umano, un link, un database altrui, un'ordinanza — e un solo punto d'arrivo: i dati, una volta partiti, non tornano.
La domanda giusta
Per uno studio o una PMI svizzera, soggetta a LPD e spesso al segreto professionale, la domanda non è «il mio fornitore AI è serio?». È: i documenti dei miei clienti devono proprio partire? Se l'intelligenza sta su una macchina in ufficio — è il modo in cui costruiamo AG Core — le quattro strade di questa cronaca semplicemente non esistono: niente viaggia, niente si condivide per sbaglio, niente giace nel database di qualcun altro, niente è consegnabile da terzi. Dei costi abbiamo scritto qui; questa è la parte che non si misura in franchi.
Fonti
Forbes — Samsung vieta i chatbot dopo la fuga di codice (05.2023) · TechCrunch — chat ChatGPT indicizzate da Google (07.2025) · Wiz Research — database DeepSeek esposto (01.2025) · Bloomberg Law — ordine di consegna di 20M di chat (01.2026) · Harris Beach Murtha — niente privilegio sui documenti da AI consumer (02.2026) · ICT&Health — i dati dei medici in ChatGPT