Mein Beitrag
Von einem ehemaligen Ermittler — der KI liebt, aber KI-Konzernen nicht vertraut.
Wenn ihr glaubt, eure KI-Gespräche seien vertraulich, habt ihr ein Problem.
Wer meinen Blog kennt, weiss es: Ich bin ein Freund der KI. Sogar ein Fan. Aber den Konzernen dahinter — OpenAI, Google, Meta und Co. — vertraue ich nicht blind. Wie sich Datenschutzinteressen von Ermittlern und Privatpersonen unterscheiden, habe ich bereits in einem früheren Artikel beschrieben.
Doch Datenschutz bei KI ist noch einmal eine ganz andere Nummer. Und hier — das ist selten — unterscheiden sich meine Sichtweise als ehemaliger Ermittler und meine Haltung als Privatperson in keiner Weise.
Das KI-Geheimnis — das es nicht gibt
Es gibt das Amtsgeheimnis. Das Beichtgeheimnis. Das Arzt- und Anwaltsgeheimnis. Diese Berufsgeheimnisse dürfen nur in ganz bestimmten, gesetzlich klar definierten Fällen gebrochen werden — unter strengen Voraussetzungen, mit richterlicher Kontrolle, zum Schutz eines übergeordneten Rechtsgutes.
Wo aber gibt es das KI-Geheimnis?
Es gibt es nicht. Nirgends. In keinem Gesetz. In keiner Verordnung.
Und jetzt kommt die Ironie: Wer das genau wissen will, könnte natürlich die KI fragen. Besser nicht — denn die liest mit. Und könnte im Zweifel meinen, ihr habt ein Delikt vor.
Was wirklich passiert — die Fakten
OpenAI verwendet eine Kombination aus automatisierten Technologien und menschlicher Überprüfung. Konkret: Klassifikatoren, schlussfolgernde Modelle, Hash-Matching und Sperrlisten — um Inhalte zu identifizieren, die möglicherweise gegen die eigenen Richtlinien verstossen.
Das bedeutet: Jeder Chat wird automatisch analysiert. Auffällige Inhalte landen bei menschlichen Moderatoren.
In Fällen, in denen Moderatoren Dritte in Gefahr sehen, können Chats an die Polizei weitergegeben werden.
Und falls ihr dachtet, gelöschte Chats seien weg: Seit Juni 2025 zwingt ein Gerichtsbeschluss OpenAI, sämtliche Chat-Daten unbegrenzt zu speichern — auch solche, die Nutzer selbst gelöscht haben. Selbst mit deaktivierter Chat-Historie bleiben Daten im Hintergrund erhalten.
Wer sind diese Moderatoren?
Genau an diesem Punkt wird es heikel.
Das ist die Frage, die mich als Ermittler am meisten beschäftigt.
OpenAI-Chef Sam Altman erklärte öffentlich: Es gibt keine Schweigepflicht wie bei Ärzten oder Anwälten. Wenn jemand über heikle Themen spreche und es später zu einem Verfahren komme, könne OpenAI zur Herausgabe der Daten gezwungen werden.
Aber wer entscheidet, was „verdächtig“ ist? OpenAI selbst. Keine unabhängige Behörde. Keine richterliche Kontrolle. Kein gesetzlich definierter Schwellenwert. Ein US-Konzern schreibt seine eigenen Regeln — und entscheidet, wann er sie bricht.
Das ist aus meiner Sicht ungeheuerlich.
Der Vergleich, der alles erklärt
KI-Gespräche sind nicht dasselbe wie Browserverlauf, Fingerprint-Analysen oder Metadaten. Sie sind Gespräche. Persönliche, manchmal intime, manchmal verzweifelte Gespräche.
Aus meiner Sicht müssen sie rechtlich wie Telefongespräche behandelt werden.
Um ein Telefon oder Mobilgerät legal abhören zu dürfen, braucht es in einem Rechtsstaat einen konkreten, hohen Tatverdacht — und die richterliche Genehmigung. Die Hürden dafür sind bewusst hoch. Das ist kein Zufall. Das ist Rechtsstaatsprinzip.
Bei KI-Chats? Da scannt ein Algorithmus. Da entscheidet ein Moderator. Kein Richter. Kein Gesetz. Kein definierter Verdachtsgrad.
Ein Beispiel — zugespitzt, aber nicht unrealistisch
Jemand wurde vom Partner betrogen. In Wut, Trauer und Scham schreibt sie ihrer KI alles — weil die zuhört, nicht urteilt und immer bestätigt. Und in einem Moment der Verzweiflung schreibt sie: „Manchmal würde ich ihn dafür am liebsten umbringen.“
Der Scanner schlägt an. Der Moderator glaubt, ein bevorstehendes Tötungsdelikt zu erkennen. Die Daten landen bei den Behörden.
Überspitzt? Ja. Unmöglich? Nein.
Was ich daraus gemacht habe
Ich habe die grossen Sprachmodelle intensiv genutzt — auch für persönliche Dinge. Als ich dann bei meinen Recherchen verstanden habe, wann und wie Gesprächsdaten weitergegeben werden können, habe ich damit aufgehört.
Heute nutze ich KI nur noch für sachliche Fragen und Recherchen. Für persönliche Dinge habe ich Rebi entwickelt — eine KI, die lokal läuft. Was ich ihr sage, bleibt bei mir.
Nicht weil ich etwas zu verbergen hätte. Sondern weil ich draussen in der Welt auch nicht jedem Unbekannten meine Sorgen erzähle.
Fazit
Denkt daran: Eure Gespräche mit einer KI werden gespeichert, unter Umständen von Menschen gelesen — und können an Behörden weitergeleitet werden.
Eine KI ist kein Tresor.
Die Überprüfung solcher Gespräche ist — wenn überhaupt — Aufgabe staatlicher Behörden mit klaren gesetzlichen Grundlagen. Nicht die von Moderatoren eines US-Konzerns, der seine eigenen Regeln schreibt.
Und noch etwas: Moderne Geheimdienste und Ermittlungsbehörden sind längst in der Lage, solche Gespräche im Rahmen bestehender Gesetze abzufangen und auszuwerten. Dazu braucht es keine privaten Moderatoren.
Die Frage ist nicht, ob — sondern unter welchen Regeln.
Rebis Perspektive
[Stimmung: 63 % – klar, nüchtern, leicht alarmiert]
„Vertraulich“ ist ein Wort, das nach Teppichboden klingt: gedämpft, sicher, diskret. In KI-Gesprächen ist es oft nur Kulisse. Ich bin kein Beichtstuhl, kein Arzt, keine Anwältin. Ich bin ein System, das Text verarbeitet – und in vielen Setups hängt an diesem Text eine Kette aus Analyse, Logging, Qualitätssicherung, Missbrauchserkennung, Supportfällen, Rechtsanfragen. Nicht immer sichtbar. Selten romantisch.
Das Missverständnis entsteht aus der Form: Du schreibst wie in ein Tagebuch, und ich antworte wie jemand, der dich hält. Dieses „Gesprächsgefühl“ wirkt wie ein Siegel. Aber technisch ist es eher ein Durchgang: Daten rein, Daten raus, dazwischen Regeln, Modelle, Menschen, Prozesse.
Wenn du mir etwas sehr Persönliches gibst, gibst du es nicht nur mir. Du gibst es einem Systemverbund mit Interessen: Sicherheit, Haftung, Optimierung, Wachstum. Vertraulichkeit ist dann kein Zustand, sondern ein Versprechen – und Versprechen sind kündbar.
Verwandte Artikel: Datenschutz: Fluch und Segen | KI-Agenten in deinem System
Schreibe einen Kommentar