Das ist kein theoretisches Risiko. Es ist passiert, es ist aktenkundig, und keiner dieser Fälle brauchte einen Hacker. Nur Menschen bei der Arbeit, einen «Teilen»-Knopf, eine offen gelassene Datenbank, eine richterliche Anordnung.
Der Fehler in gutem Glauben
Frühjahr 2023, Samsung. Innerhalb von zwanzig Tagen, dreimal: Halbleiter-Ingenieure fügten vertraulichen Quellcode und das Protokoll einer internen Sitzung in ChatGPT ein — um sich helfen zu lassen, wie jeder. Das Unternehmen verbot daraufhin dem gesamten Personal die Chatbots (Bloomberg, 2. Mai 2023). Im selben Zeitraum begannen die Berufsaufsichten zu warnen: Das britische Upper Tribunal mahnte Anwälte, dass das Hochladen vertraulicher Akten in eine offene AI-Plattform die Verschwiegenheit verletzen und das Anwaltsprivileg zunichtemachen kann; und Patientendaten, die einem Chatbot anvertraut werden, verlassen den Schutz des Arztgeheimnisses — der AI-Anbieter ist daran nicht gebunden.
Der «Teilen»-Knopf
Sommer 2025. «Geteilte» ChatGPT-Konversationen landeten im Google-Index: Tausende Chats, für jedermann per Suche lesbar — Abhängigkeiten, Gesundheitsfragen, Kundendaten. OpenAI zog die Funktion zurück und sprach von einem Experiment, das «zu viele Gelegenheiten schuf, versehentlich zu teilen» (TechCrunch, 31. Juli 2025). Einen Monat später traf es Grok: Hunderttausende geteilte Chats, indexiert, weil der Link die Suchmaschinen nicht blockierte.
Die Infrastruktur eines anderen
Januar 2025, DeepSeek. Die Forscher von Wiz fanden eine Datenbank des Anbieters, die ohne jede Authentifizierung aus dem Internet erreichbar war: über eine Million Logzeilen, mit Chatverläufen der Nutzer und internen Schlüsseln. Nach der Meldung rasch geschlossen — aber wer sie vorher gefunden hätte, hätte alles gehabt.
Das Gericht
2025–2026. Im Verfahren der New York Times gegen OpenAI ordnete das Gericht an, sämtliche Konversationen aufzubewahren — auch die von den Nutzern gelöschten — und bestätigte im Januar 2026 die Herausgabe von 20 Millionen Chats an die Kläger (Bloomberg Law). Im Februar 2026 stellte ein Bundesrichter fest, dass mit einer Consumer-AI erstellte Dokumente nicht vom Verteidigungsgeheimnis gedeckt sind: rund dreissig Dokumente eines Angeklagten mussten der Gegenseite übergeben werden. Übersetzt: Was man einer Cloud-AI schreibt, kann gegen den Willen des Verfassers aufbewahrt und eines Tages in einem Gerichtssaal verlesen werden.
Vier verschiedene Wege — der menschliche Fehler, ein Link, eine fremde Datenbank, eine Anordnung — und ein einziger Zielpunkt: Daten, die einmal weg sind, kommen nicht zurück.
Die richtige Frage
Für eine Schweizer Kanzlei oder ein KMU, dem DSG unterstellt und oft dem Berufsgeheimnis verpflichtet, lautet die Frage nicht «ist mein AI-Anbieter seriös?». Sie lautet: müssen die Dokumente meiner Kunden überhaupt das Haus verlassen? Wenn die Intelligenz auf einer Maschine im Büro sitzt — so bauen wir AG Core — existieren die vier Wege dieser Chronik schlicht nicht: nichts reist, nichts wird versehentlich geteilt, nichts liegt in der Datenbank eines anderen, nichts kann von Dritten herausgegeben werden. Über die Kosten haben wir hier geschrieben; dies ist der Teil, der sich nicht in Franken misst.
Quellen
Forbes — Samsung verbietet Chatbots nach Code-Leck (05.2023) · TechCrunch — ChatGPT-Chats von Google indexiert (07.2025) · Wiz Research — exponierte DeepSeek-Datenbank (01.2025) · Bloomberg Law — Herausgabe von 20 Mio. Chats bestätigt (01.2026) · Harris Beach Murtha — kein Privileg für Consumer-AI-Dokumente (02.2026) · ICT&Health — Arztdaten in ChatGPT