Datenschutz und KI – geht das überhaupt zusammen? Gerade in NGOs und gemeinnützigen Organisationen sorgt die Frage schnell für Unsicherheit: Welche Daten darf ich in ChatGPT und andere KI-Tools eingeben? Wann brauche ich einen Auftragsverarbeitungsvertrag (AVV)? Und sind deutsche KI-Anbieter wirklich sicherer? Die gute Nachricht: Datenschutz und KI lassen sich durchaus vereinbaren. Dafür musst du vor allem ein paar grundlegende Regeln kennen.
„Aus allem, was ich eingebe, lernt die KI.“ Weil die meisten Menschen glauben, das sei so. Das ist falsch. Und das bedeutet: Datenschutz und KI zusammenzubringen ist technich möglich, wenn auch rechtich kompliziert.
Vorweg: Ich halte Datenschutz für ein richtig großes Gut. Dass Menschen entscheiden, wer was über sie weiß – das ist keine Formalie, es ist eine Freiheitsfrage. Und je aufgeheizter das politische Klima wird, desto wichtiger wird es. Gerade wir in NGOs arbeiten oft mit Menschen, für die es echte Folgen hat, wenn ihre Daten in die falschen Hände geraten.
Für mich lässt sich das Thema Datenschutz und KI auf sieben Merksätze herunterbrechen. Wobei, eigentlich sind es sogar acht. Den letzten habe ich im Fazit versteckt.
(Wichtig: Ich bin keine Juristin, und das hier ist keine Rechtsberatung. Es sind Erläuterungen zu den Missverständnissen, die mir am häufigsten begegnen. Im Zweifel fragt ein:e Anwält:in.)
1. Das KI-Modell lernt nicht aus deinen Daten. Das KI-Tool speichert sie trotzdem.
Wir müssen unterscheiden zwischen den Modellen (z. B. ChatGPT 5.6 Sol, Claude Sonnet 5) und dem Tool. Das Tool ist meist die Website, die du aufrufst (ChatGPT, Claude, Langdock, Poe, Copilot). Die Modelle mit ihren Nummern sind ein bisschen wie die Motoren. Die Tools sind das Auto, das du bekommst, um mit diesem Motor zu fahren.
Das Modell ist fertig trainiert. Dein Chat verändert daran nichts. Aber: Was du eingibst und erzeugst – ob Chat, hochgeladene oder produzierte Dateien und außerdem deine Benutzerdaten – werden im Tool gespeichert. Oft kann der Anbieter diese Daten für das Training des nächsten Modells nutzen. Allerdings passiert das nicht automatisch und du kannst es bei fast allen Tools untersagen.
Also: Schalte in den Einstellungen ab, dass deine Daten fürs Training genutzt werden dürfen. Wie das geht, verrät dir das Tool im Zweifelsfall selbst.
2. Nutze KI für alles, was öffentlich werden dürfte.
Website-Texte, Präsentationen, Konzepte, Förderanträge, Gliederungen für den Jahresbericht, Stellenausschreibungen, Übersetzungen, Social-Media-Posts: Solange du keine personenbezogenen Daten anderer Menschen eingibst, ist die DSGVO nicht berührt. Über deine eigenen persönlichen Daten entscheidest du selbst.
Und was ist mit euren internen Daten? Förderanträge, Finanzzahlen, interne Konzepte. Die DSGVO gilt nicht, aber du musst mit der Leitung klären, was als Geschäftsgeheimnis gilt und ob es in dein KI-Tool darf.
3. Personenbezogene Daten sind mehr als du denkst.
Also alles kein Problem? Vorsicht! Es gibt zwei Fallen.
Falle 1: Bereits veröffentlichte Personendaten bleiben geschützt. Die Geschäftsführerin steht namentlich im Impressum, das Zitat des Vorstandsvorsitzenden mit seinem Namen in der Pressemitteilung – also dürfen diese Infos so in die KI? Nein. Eine Veröffentlichung ändert nichts daran, dass es personenbezogene Daten bleiben. Aber: Meist kannst du die betroffenen Kolleg:innen fragen. Und mit Erlaubnis kein Problem.
Falle 2: Wenn Daten personenbeziehbar sind, sind sie geschützt. „Eine KI-Trainerin aus Bremen für Non-Profits“ – das ist bereits personenbezogen, weil es auf mich deutet. Das gleiche gilt, zum Beispiel, für Namen, die durch Initialen ersetzt werden. Pseudonymisierung ist nicht das gleiche wie Anonymisierung – und Datenschutz gilt auch für pseudonymisierte Daten.
4. ChatGPT plus liefert keinen Datenschutz. Such nach dem AVV.
Um personenbezogene Daten zu verarbeiten, brauchst du einen Auftragsverarbeitungs-Vertrag (AVV) oder auf Englisch ein Data Processing Addendum (DPA). In diesem Vertrag sichert dir der Anbieter zu, deine Daten nach DSGVO-Regeln zu behandeln.
Was die meisten überrascht: Bezahlen reicht nicht. Die privaten Einzellizenzen bei OpenAI, Anthropic und anderen enthalten keinen AVV. Du brauchst einen Business- oder Teams-Tarif oder einen Anbieter, der einen AVV für Einzelnutzende anbietet. Check deinen Tarif.
5. Deutsche Anbieter gibt es viele. Wirklich unabhängige kaum.
Brauche ich dann einen deutschen Anbieter? Nicht unbedingt. Einen AVV kann auch ein amerikanisches Unternehmen wie Microsoft anbieten. Aber: Inzwischen gibt es auch viele deutsche KI-Anbieter mit AVV. Diese Anbieter bauen dir eine Oberfläche (also das Auto), sichern deine Nutzungsdaten darin und schließen ihrerseits Verträge mit US-amerikanischen Modell-Anbietern, um dir Zugriff auf Claude und ChatGPT (als Motoren) zu ermöglichen.
Ich habe diese „Reseller“ recherchiert und für dich zusammengestellt. Wichtig: Bei allen sitzt standardmäßig in der Verarbeitungskette ein US-Unternehmen, meistens als Cloud-Betreiber. Die Server lassen sich auf Europa beschränken, aber die Firma hinter der Cloud bleibt US-amerikanisch. Das heißt konkret: Über den US Cloud Act können Behörden Zugriff verlangen, selbst wenn die Daten physisch in Europa liegen. Aber ehrlich gesagt bewegt ihr euch damit in derselben Grauzone wie bei Microsoft 365, das die meisten von euch längst nutzen.
→ Hier geht’s zu meiner Anbieter-Liste (Stand: 06.09.2026)
6. Auch mit AVV entscheidet der Zweck, ob KI erlaubt ist.
Die DSGVO erlaubt weder Tools, noch verbietet sie sie. Die AVV ist eine Mindestanforderung bei Personen-Daten, kein Freifahrtschein. Ob der Zweck den Einsatz von KI für bestimmte Aufgaben rechtfertigt, müsst ihr im Sinne der Betroffenen abwägen:
- Newsletter-Text entwerfen: Ohne personenbezogene Daten gar kein Datenschutz-Thema. Sogar die Gratis-Version ohne AVV reicht.
- Aus Meeting-Notizen ein Protokoll mit Namen erzeugen: Mit AVV finde ich das vertretbar.
- Eine Fallakte aus der psychosozialen Beratung auswerten: Gleiches Tool, gleiche AVV – und trotzdem rate ich davon ab. Gesundheitsdaten sind personenbezogene Daten besonderer Kategorie, für die die DSGVO deutlich höheren Schutz verlangt. So etwas beratet mit euren Datenschutzbeauftragten.
Wenn ihr viel mit hochsensiblen Daten arbeitet, schaut euch auch kleine Modelle an, die lokal bei euch laufen. Oder arbeitet mit einem Startup wie Sozial-KI zusammen, das die ganze Verarbeitungs-Kette von US-Anbietern freihält. Das geht nur mit offenen Modellen, also ohne ChatGPT, Claude und Gemini. Gerade die kleineren Modelle sind okay für Text, mehr geht selten, d.h. ihr müsst die Einsatzbereiche einschränken. Dafür wisst ihr, wo eure Daten wirklich sind.
7. Bevor KI über Menschen entscheidet: Holt euch Rechtsberatung.
Hier reicht der Datenschutz als Prüfraster nicht. Stellenbesetzungen oder Leistungsbewertungen sind im EU AI Act als Hoch-Risiko klassifiziert und bringen Auflagen mit sich. Weitergehende Schritte wie Emotionsanalyse am Arbeitsplatz sind vollständig verboten.
Ebenfalls ein Fall für die Jurist:innen: Regeln zu Schweigepflicht, Recht an der eigenen Stimme (auch bei Mitschnitten) und besondere Regeln im kirchlichen Datenschutz – außerdem alles, wo euer Betriebs- oder Personalrat mitreden muss. Das ist kein Grund, KI links liegen zu lassen. Es ist nur der Moment, in dem ihr euch eure konkreten Fälle von einer Person einschätzen lassen solltet, die dafür ausgebildet ist.
Und jetzt? Der heimliche achte Merksatz:
Fühlst du dich eingeschüchtert? Keine Sorge. Die meisten Merksätze wirst du seltener brauchen als du denkst. Fangt in eurer Organisation mit all dem an, was sowieso öffentlich werden dürfte. Und: Macht das bitte nicht allein. Redet im Team darüber, was ihr ausprobiert habt und wo ihr unsicher wart.
Das ist mein heimlicher achter Merksatz:
Eine gemeinsame Haltung zum Datenschutz entsteht nicht dadurch, dass die Leitung eine Richtlinie verschickt. Sie entsteht, wenn ihr zusammen ein Gefühl dafür entwickelt, wie ihr gegenüber Kolleg*innen und Klient:innen Verantwortung übernehmt.