Datenschutz bei KI-Werkzeugen: Was Sie eingeben dürfen

Das Grundproblem: Eingaben verlassen den Betrieb

Was Sie in ein KI-Werkzeug tippen, wird auf den Servern des Anbieters verarbeitet, oft außerhalb Deutschlands. Bei kostenlosen Versionen verwenden viele Anbieter die Eingaben zusätzlich, um ihre Modelle zu trainieren. Ein Angebotstext mit Kundenname und Adresse liegt dann nicht mehr nur in Ihrem Büro. Was einmal dort liegt, holen Sie nicht mehr zurück.

Das betrifft zwei Arten von Daten: personenbezogene Daten, für die die DSGVO gilt, und Geschäftsgeheimnisse wie Kalkulationen, Lieferantenpreise oder Vertragsentwürfe. Für die einen drohen Bußgelder und Ärger mit Kunden, für die anderen der Verlust eines Vorteils, den Sie sich über Jahre erarbeitet haben.

Die gute Nachricht: Mit wenigen Regeln lässt sich fast alles nutzen, was KI im Büro bringt, ohne diese Risiken einzugehen. Es kommt darauf an, welches Werkzeug Sie nehmen und was Sie hineingeben. Die Regeln passen auf eine Seite und lassen sich in einer Viertelstunde erklären.

Was die DSGVO verlangt

Sobald Namen, Adressen, Telefonnummern oder Fotos von Personen im Spiel sind, verarbeiten Sie personenbezogene Daten. Dafür brauchen Sie eine Rechtsgrundlage nach Artikel 6 DSGVO, meist die Vertragserfüllung oder Ihr berechtigtes Interesse, und Sie müssen die Verarbeitung im Verzeichnis nach Artikel 30 führen. Für Daten von Mitarbeitenden gelten zusätzlich die Regeln des Bundesdatenschutzgesetzes zum Beschäftigtendatenschutz.

Der Anbieter des Werkzeugs handelt in Ihrem Auftrag; dafür verlangt Artikel 28 DSGVO einen Vertrag zur Auftragsverarbeitung. Bei Anbietern außerhalb der EU kommen die Regeln für Drittlandübermittlungen ab Artikel 44 hinzu. Für die USA gibt es einen Angemessenheitsbeschluss der EU-Kommission, dessen Bestand vor Gericht geprüft wird; prüfen Sie den aktuellen Stand, bevor Sie sich darauf verlassen.

Die Datenschutzkonferenz der Aufsichtsbehörden hat 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, die genau diese Fragen für Unternehmen durchgeht. Sie ist die beste Lektüre, wenn Sie es genauer wissen wollen.

Die Ampel: was hinein darf und was nicht

Für den Alltag hilft eine einfache Einteilung in drei Farben. Sie lässt sich ausdrucken und neben den Rechner hängen:

• Grün, immer erlaubt: allgemeine Texte, eigene Leistungsbeschreibungen, anonymisierte Fälle wie „Kunde, Einfamilienhaus, Bad acht Quadratmeter“, öffentliche Informationen.
• Gelb, nur in der Geschäftsversion mit Vertrag und ohne Training: interne Zahlen, Angebotsentwürfe ohne Namen, Protokolle mit Vornamen der Mitarbeitenden, Lieferantenkonditionen.
• Rot, nie: Namen mit Adressen von Kunden, Gesundheitsdaten, Bankverbindungen, Personalunterlagen, Passwörter, Fotos von Personen, vollständige Verträge, Daten von Kindern.

Praktische Regeln für den Betrieb

Die rote Liste ist nicht verhandelbar, auch nicht mit dem besten Vertrag. Bei allem, was gelb ist, entscheidet das Werkzeug: Kostenlose Verbraucherversionen scheiden aus, Geschäftsversionen mit Auftragsverarbeitungsvertrag und ausgeschlossenem Training sind in Ordnung.

Nutzen Sie also Geschäftsversionen, bei denen der Anbieter vertraglich zusichert, Eingaben nicht zum Training zu verwenden, und schließen Sie den Auftragsverarbeitungsvertrag ab. Bevorzugen Sie Anbieter mit Servern in der EU; das gilt für KI-Werkzeuge genauso wie für Buchhaltungssoftware. DeppFlow Finance etwa speichert die Daten in Frankfurt.

Anonymisieren Sie vor dem Eingeben: „Frau Meier, Lindenstraße 12, Laatzen“ wird zu „Kundin, Einfamilienhaus, Laatzen“. Der Text wird dadurch nicht schlechter, und die Namen fügen Sie danach in Ihrem Programm ein. Machen Sie diese Regel zur Gewohnheit, dann kostet sie keine Zeit. Dieselbe Regel gilt für Fotos: Gesichter und Namensschilder vor dem Hochladen abdecken.

Benennen Sie eine Person, die für KI-Werkzeuge zuständig ist, schreiben Sie die Regeln auf eine Seite und weisen Sie alle ein, die damit arbeiten. Das erfüllt zugleich die Pflicht zur KI-Kompetenz aus der KI-Verordnung, die seit Februar 2025 gilt (Stand September 2026).

Beispiel: der Elektrobetrieb und das Angebot

Ein Elektrobetrieb möchte den Begleittext zu einem Angebot für eine Wallbox von einer KI vorformulieren lassen. Die Bürokraft gibt ein: „Angebot Wallbox elf Kilowatt, Einfamilienhaus, Garage, Kabelweg fünfzehn Meter, Termin in drei Wochen, freundlich, Sie-Anrede.“ Kein Name, keine Adresse, keine Kundennummer.

Das Werkzeug liefert den Text, die Bürokraft prüft ihn, fügt ihn im Angebotsprogramm ein und ergänzt dort Anschrift und Positionen. Die personenbezogenen Daten haben das Programm des Betriebs nie verlassen. Derselbe Ablauf funktioniert für Mahnungen, Terminbestätigungen und Stellenanzeigen. Das Werkzeug hat dabei keinen Zugriff auf die Kundendatei, und das soll so bleiben.

Was in diesem Betrieb nie in ein KI-Werkzeug geht: Krankmeldungen, Arbeitsverträge, Fotos von Kundenwohnungen mit erkennbaren Personen und der Schriftverkehr mit dem Anwalt. Diese Liste hängt ausgedruckt neben dem Drucker.

Wenn doch etwas schiefgeht

Landen versehentlich Kundendaten in einem Werkzeug, das sie nicht hätte sehen dürfen, prüfen Sie zuerst, ob ein Risiko für die Betroffenen besteht. Ist das der Fall, müssen Sie den Vorfall nach Artikel 33 DSGVO innerhalb von 72 Stunden der Aufsichtsbehörde melden; in Niedersachsen ist das die Landesbeauftragte für den Datenschutz.

Löschen Sie die Eingabe beim Anbieter, soweit möglich, dokumentieren Sie den Vorfall und passen Sie die Regel an, die ihn möglich gemacht hat. Die meisten Pannen entstehen nicht aus Böswilligkeit, sondern aus Eile; deshalb ist die einfache Ampel wirksamer als ein zwanzigseitiges Handbuch. Wer die Panne offen anspricht, schafft im Team die Bereitschaft, sie das nächste Mal zu melden.