Ce n'est pas un risque théorique. C'est arrivé, c'est documenté, et aucun de ces cas n'a eu besoin d'un pirate. Seulement des gens au travail, un bouton « partager », une base de données laissée ouverte, une ordonnance de tribunal.
L'erreur de bonne foi
Printemps 2023, Samsung. En vingt jours, trois fois : des ingénieurs des semi-conducteurs collent dans ChatGPT du code source confidentiel et le procès-verbal d'une réunion interne — pour se faire aider, comme tout le monde. L'entreprise finit par interdire les chatbots à tout le personnel (Bloomberg, 2 mai 2023). Dans la même période, les régulateurs professionnels commencent à avertir : l'Upper Tribunal britannique met en garde les avocats — téléverser des dossiers confidentiels dans une plateforme d'IA ouverte peut violer la confidentialité et faire perdre le secret professionnel ; et les données de patients confiées à un chatbot sortent de la protection du secret médical — le fournisseur d'IA n'y est pas tenu.
Le bouton « partager »
Été 2025. Les conversations « partagées » de ChatGPT se retrouvent indexées par Google : des milliers d'échanges lisibles par n'importe qui via une simple recherche — addictions, questions de santé, données de clients. OpenAI retire la fonction en parlant d'une expérience qui « créait trop d'occasions de partager par erreur » (TechCrunch, 31 juillet 2025). Un mois plus tard, c'est le tour de Grok : des centaines de milliers de conversations partagées, indexées parce que le lien ne bloquait pas les moteurs de recherche.
L'infrastructure de quelqu'un d'autre
Janvier 2025, DeepSeek. Les chercheurs de Wiz découvrent une base de données du fournisseur accessible depuis internet sans aucune authentification : plus d'un million de lignes de journaux, avec les historiques de conversation des utilisateurs et des clés internes. Fermée rapidement après le signalement — mais quiconque l'aurait trouvée avant avait tout.
Le tribunal
2025–2026. Dans le procès du New York Times contre OpenAI, le tribunal ordonne de conserver toutes les conversations — y compris celles que les utilisateurs avaient supprimées — et confirme en janvier 2026 la remise de 20 millions de conversations aux plaignants (Bloomberg Law). En février 2026, un juge fédéral établit que les documents préparés avec une IA grand public ne sont pas couverts par le secret de la défense : une trentaine de documents d'un prévenu doivent être remis à la partie adverse. Traduction : ce que l'on écrit à une IA en cloud peut être conservé contre la volonté de son auteur, et lu un jour dans une salle d'audience.
Quatre chemins différents — l'erreur humaine, un lien, une base de données étrangère, une ordonnance — et un seul point d'arrivée : les données, une fois parties, ne reviennent pas.
La bonne question
Pour une étude ou une PME suisse, soumise à la LPD et souvent au secret professionnel, la question n'est pas « mon fournisseur d'IA est-il sérieux ? ». C'est : les documents de mes clients doivent-ils vraiment partir ? Si l'intelligence tient sur une machine au bureau — c'est ainsi que nous construisons AG Core — les quatre chemins de cette chronique n'existent tout simplement pas : rien ne voyage, rien ne se partage par erreur, rien ne dort dans la base de données d'un autre, rien ne peut être remis par des tiers. Des coûts, nous avons parlé ici ; ceci est la partie qui ne se mesure pas en francs.
Sources
Forbes — Samsung interdit les chatbots après la fuite de code (05.2023) · TechCrunch — conversations ChatGPT indexées par Google (07.2025) · Wiz Research — base de données DeepSeek exposée (01.2025) · Bloomberg Law — remise de 20 M de conversations confirmée (01.2026) · Harris Beach Murtha — pas de privilège pour les documents d'IA grand public (02.2026) · ICT&Health — les données des médecins dans ChatGPT