Vor ein paar Monaten saß ich in einem Gespräch mit einem Geschäftsführer, der stolz erzählte, sein Team nutze ChatGPT für alles: Angebote, interne Protokolle, sogar Kundendaten zur Analyse. Auf meine Nachfrage, ob das mit der Rechtsabteilung abgestimmt sei, kam nur ein Schulterzucken. Genau dieses Schulterzucken sehe ich in fast jedem Mittelstandsunternehmen, mit dem ich spreche.
Das ist kein Einzelfall. KI ist im deutschen Mittelstand angekommen, aber die Frage, ob sie auch datenschutzkonform eingesetzt wird, bleibt meist unbeantwortet.
Wer als Geschäftsführung oder IT-Verantwortlicher jetzt KI einführen will, ohne später eine Abmahnung oder ein Bußgeld zu riskieren, muss zuerst eine Sache verstehen: Es gibt einen fundamentalen Unterschied zwischen öffentlichen KI-Diensten und Private AI, und dieser Unterschied entscheidet darüber, ob Ihre Unternehmensdaten sicher bleiben oder irgendwo auf einem Server landen, über den Sie keine Kontrolle haben.
Ich leite die deutsche Niederlassung von DECODE, einem Software-Entwicklungspartner, der unter anderem DSGVO-konforme Cloud- und KI-Architekturen für Unternehmen baut.
Was folgt, ist kein juristischer Ratgeber, das können Anwälte besser. Es ist die praktische Perspektive eines Technologieverantwortlichen darauf, wie Unternehmen KI einführen, ohne dabei den Datenschutz zu ihrem eigenen Risiko zu machen.
Das Wichtigste in Kürze
Private AI bedeutet, dass die Datenverarbeitung innerhalb einer klar definierten, vom Unternehmen kontrollierten Umgebung stattfindet, sei es On-Premise, ein dediziertes EU-Cloud-Setup oder eine hybride Lösung, statt auf einem geteilten öffentlichen Dienst.
„In der EU gehostet“ und „unter EU-Recht kontrolliert“ sind zwei unterschiedliche Dinge: Ein Rechenzentrum in Frankfurt schützt Sie nicht automatisch vor dem US CLOUD Act, wenn der Anbieter selbst rechtlich in den USA sitzt.
DSGVO, EU AI Act und NIS-2 gelten für KMU meist schon heute, nicht erst irgendwann in der Zukunft. Wer KI-Tools einsetzt, ohne die Rechtsgrundlage für die Datenverarbeitung zu prüfen, trägt am Ende selbst das Risiko, zusammen mit dem Anbieter.
Der Unterschied zwischen öffentlichen KI-Diensten und Private AI ist keine Nuance: Er entscheidet darüber, wo Ihre Daten landen und wer darauf zugreifen kann.
Eine klare KI-Richtlinie und geschulte Mitarbeitende verhindern mehr Datenschutzverstöße als jede technische Maßnahme allein.
KI-Einführung ist für die meisten Unternehmen zuerst ein Effizienzthema und erst in zweiter Linie ein Datenschutzthema. Genau in dieser Reihenfolge liegt das Problem. Sobald ein KI-Tool personenbezogene Daten verarbeitet, und das passiert schneller als viele denken, greift die Datenschutz-Grundverordnung (DSGVO) in voller Härte.
Laut der aktuellen Bitkom-Studie setzen inzwischen 41 Prozent der Unternehmen in Deutschland KI ein, ein Sprung von 17 Prozent im Vorjahr. Weitere 48 Prozent planen den Einsatz oder diskutieren ihn gerade.
Wir bauen Software, die Ihre Daten und Entscheidungen in europäischen Händen lässt. Unverbindliches Erstgespräch buchen→
Ich halte das für eine gute Entwicklung, aber auch für ein Warnsignal. Wenn so viele Unternehmen in so kurzer Zeit einsteigen, bleibt oft keine Zeit, die Grundlagen sauber zu klären.
Interessant finde ich, dass 53 Prozent der Nutzer fehlende KI-Kompetenz im Team als größte Hürde nennen, nicht Datenschutzbedenken. Das deckt sich mit meiner Erfahrung: Die Sorge um Compliance kommt meist erst, wenn schon etwas eingeführt wurde, nicht davor. Genau umgekehrt sollte es laufen.
Die DSGVO unterscheidet nicht zwischen „normaler“ Software und KI. Sobald ein Tool personenbezogene Daten verarbeitet, also Namen, E-Mail-Adressen, Kundendaten, Mitarbeiterdaten oder ähnliches, gelten dieselben Grundprinzipien wie bei jeder anderen Datenverarbeitung: Zweckbindung, Datenminimierung, Transparenz und eine Rechtsgrundlage für die Verarbeitung.
Bei einem Large Language Model (LLM) wie ChatGPT wird das schnell unübersichtlich. Ein Mitarbeiter, der eine Kundenanfrage in ein öffentliches KI-Tool kopiert, um sie zusammenfassen zu lassen, hat damit möglicherweise bereits personenbezogene Daten an einen Dritten übermittelt, ohne dass jemand im Unternehmen davon weiß. Ich sehe genau dieses Muster in fast jedem Unternehmen, das KI ohne Richtlinie einführt.
Der EU AI Act ergänzt die DSGVO um zusätzliche Pflichten, die viele Unternehmen noch gar nicht auf dem Schirm haben. Seit Februar 2025 gelten Verbote für bestimmte KI-Praktiken, seit August 2025 Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Ab dem 2. August 2026 wird der AI Act allgemein anwendbar, inklusive Transparenzpflichten: Chatbots müssen sich als KI zu erkennen geben, KI-generierte Inhalte müssen gekennzeichnet werden.
Ich empfehle jedem Unternehmen, das jetzt KI einführt, den AI Act nicht als „spätere Baustelle“ zu behandeln. Hochrisiko-Systeme in Bereichen wie kritischer Infrastruktur und Personalwesen folgen zwar erst ab Dezember 2027, aber die Transparenzpflichten kommen schon in einem Jahr. Wer jetzt sauber aufsetzt, muss später nicht nachrüsten.
Der wichtigste Unterschied bei der KI-Einführung ist nicht die Wahl des Modells, sondern die Frage, wo und wie Ihre Daten verarbeitet werden. Das ist der Punkt, an dem ich die meisten Missverständnisse in Gesprächen mit Geschäftsführern erlebe.
Wenn Ihre Mitarbeitenden die kostenlose oder Standard-Version von ChatGPT nutzen, laufen die Daten über Server von OpenAI in den USA, außerhalb der direkten Kontrolle Ihres Unternehmens. Was genau mit diesen Daten passiert, ob sie zum Training weiterer Modelle verwendet werden, wie lange sie gespeichert bleiben und wer im Ernstfall darauf zugreifen kann, lässt sich für ein einzelnes Unternehmen kaum nachvollziehen.
Der Samsung-Fall aus 2023 zeigt, wie schnell das schiefgehen kann. Nachdem Samsung ein anfängliches ChatGPT-Verbot aufgehoben hatte, kopierten Mitarbeitende innerhalb von nur 20 Tagen dreimal vertrauliche Daten in das Tool, darunter kompletten Quellcode und ein internes Meeting-Protokoll.
Samsung verbot ChatGPT daraufhin unternehmensweit erneut.
Ich zitiere dieses Beispiel bewusst oft, weil es zeigt, dass das Risiko real ist. Es passiert, sobald Mitarbeitende ein Tool ohne klare Regeln nutzen.
Öffentliche KI-Dienste sind deshalb nicht grundsätzlich tabu. Aber Sie müssen genau wissen, welche Daten überhaupt in so ein Tool eingegeben werden dürfen.
Private AI beschreibt einen KI-Einsatz, bei dem die Datenverarbeitung innerhalb einer klar definierten, vom Unternehmen kontrollierten Umgebung stattfindet, statt auf einem geteilten öffentlichen Dienst. Das kann On-Premise-KI auf eigener Hardware sein, ein dediziertes Cloud-Setup mit EU-Hosting, oder eine hybride Lösung mit fester Region.
Microsofts „EU Data Boundary“ sorgt zum Beispiel dafür, dass Daten von M365 Copilot für europäische Geschäftskunden innerhalb der EU und des EWR verarbeitet und gespeichert werden, allerdings nicht bei der kostenlosen Consumer-Version.
Beim Azure OpenAI Service können Kunden gezielt deutsche Regionen wählen, sodass Modell-Inferenz und gespeicherte Daten innerhalb Deutschlands bleiben.
Auch europäische Anbieter wie Aleph Alpha aus Heidelberg positionieren sich explizit mit diesem Argument. Ihre Plattform PhariaAI wirbt mit hybrider Ausführung zwischen Cloud und On-Premise, ausgelegt auf Nachvollziehbarkeit und Compliance.
Die Datenschutzkonferenz der deutschen Aufsichtsbehörden hat diesen Ansatz in ihrer neuesten Orientierungshilfe bestätigt: Selbst betriebene, lokal gehostete Systeme ermöglichen Datenschutz durch Technikgestaltung und können ganz ohne Übermittlung personenbezogener Daten an große Cloud-Anbieter auskommen.
Ich empfehle Unternehmen, die mit sensiblen Unternehmensdaten arbeiten, wie Kundendaten, Personalakten oder Gesundheitsdaten, grundsätzlich zuerst zu prüfen, ob eine Private-AI-Lösung machbar ist, bevor sie einen öffentlichen Dienst einführen. Der Mehraufwand am Anfang zahlt sich fast immer aus, weil er spätere Nachbesserungen erspart.
Nicht jeder KI-Einsatz braucht die gleiche Lösung, und genau hier verlieren viele Unternehmen unnötig Zeit, weil sie versuchen, eine einzige Antwort für alle Anwendungsfälle zu finden.
Meine Faustregel: Je näher ein Prozess an personenbezogenen oder wettbewerbskritischen Daten liegt, desto strenger sollte die KI-Variante sein.
Ich sehe immer wieder Unternehmen, die aus Bequemlichkeit die gleiche öffentliche KI für alles nutzen, vom Marketingtext bis zur Vertragsprüfung. Das ist der Punkt, an dem ich als Berater am deutlichsten widerspreche: Die Bequemlichkeit eines einzigen Tools ist kein guter Grund, das Risikoprofil eines sensiblen Prozesses zu ignorieren.
Eine DSGVO-konforme KI-Einführung folgt einem klaren Ablauf, den ich in dieser Reihenfolge empfehle.
Bevor Sie überhaupt mit einem KI-Anbieter arbeiten, brauchen Sie einen Auftragsverarbeitungsvertrag (AVV). Dieser regelt, wie der Anbieter mit Ihren Daten umgeht, wo sie gespeichert werden und welche Unterauftragsverarbeiter im Spiel sind.
Ohne AVV sollten Sie mit keinem KI-Anbieter arbeiten, der personenbezogene Daten verarbeitet, das ist für mich keine Verhandlungssache.
Prüfen Sie außerdem konkret: Wo stehen die Server? Werden Ihre Eingaben zum Training weiterer Modelle genutzt? Gibt es eine Option, das zu deaktivieren? Diese drei Fragen beantworten die meisten seriösen Anbieter transparent, und wer ausweicht, disqualifiziert sich meiner Erfahrung nach selbst.
Eine Datenschutz-Folgenabschätzung (DSFA) ist laut Artikel 35 der DSGVO dann Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt.
Bei vielen KI-Einsatzszenarien mit großflächigem Personenbezug, etwa automatisierten Bewerberauswahlen oder Profiling von Kundendaten, ist genau dieser Fall gegeben.
Ich rate dazu, im Zweifel eine DSFA durchzuführen, auch wenn sie formal nicht zwingend wäre. Der Aufwand ist überschaubar, das Risiko einer fehlenden Abschätzung dagegen nicht.
Technische und organisatorische Maßnahmen (TOM) sind der Teil, der im Alltag oft vernachlässigt wird, obwohl er den größten praktischen Unterschied macht. Dazu gehören:
Diese Maßnahmen machen im Ernstfall den Unterschied zwischen einem kontrollierten Vorfall und einer echten Datenpanne aus.
Die beste technische Lösung nützt wenig, wenn Mitarbeitende sie nicht verstehen oder umgehen. Deshalb ist eine klare KI-Richtlinie im Unternehmen für mich der wichtigste Baustein der gesamten Einführung, wichtiger als jede einzelne technische Maßnahme.
Eine gute KI-Richtlinie beantwortet für Mitarbeitende drei einfache Fragen: Welche Tools dürfen genutzt werden? Welche Daten dürfen dort eingegeben werden, und welche ausdrücklich nicht? An wen wende ich mich bei Unsicherheit? Wenn diese drei Fragen nicht in einem Satz beantwortbar sind, ist die Richtlinie zu kompliziert geschrieben.
Ich habe die Erfahrung gemacht, dass Schulungen nur wirken, wenn sie konkret sind. Ein allgemeiner Hinweis wie „Seien Sie vorsichtig mit KI“ bringt nichts. Ein Beispiel wie der Samsung-Fall, gefolgt von einer klaren Regel für den eigenen Arbeitsalltag, bleibt hängen.
Mitarbeitende wollen vor allem wissen, was sie morgen früh anders machen sollen.
1. Klären Sie, welche Anwendungsfälle personenbezogene oder sensible Daten betreffen.
2. Entscheiden Sie pro Anwendungsfall, ob öffentliche KI, EU-gehostete Cloud-KI oder Private AI angemessen ist.
3. Schließen Sie einen Auftragsverarbeitungsvertrag mit jedem eingesetzten Anbieter ab.
4. Prüfen Sie den Anbieter auf Serverstandort, Trainingsdatennutzung und Löschfristen.
5. Führen Sie bei hohem Risiko eine Datenschutz-Folgenabschätzung durch.
6. Setzen Sie technische und organisatorische Maßnahmen wie Zugriffskontrollen und Protokollierung um.
7. Erstellen Sie eine verständliche KI-Richtlinie und schulen Sie Mitarbeitende mit konkreten Beispielen.
Diese sieben Schritte sind kein einmaliges Projekt, sondern ein Rahmen, den Sie bei jedem neuen KI-Tool erneut durchlaufen sollten.
Die meisten Unternehmen, mit denen ich spreche, wollen KI nutzen. Sie wollen nur sicher sein, dass sie es richtig machen, ohne sich in Rechtsfragen zu verlieren, die eigentlich in die Architektur gehören.
Bei DECODE ist Datenschutz Teil jeder technischen Entscheidung von Tag eins, wenn wir KI-Lösungen bauen. Wir denken Cloud-Architektur, Datenresidenz und Compliance gemeinsam, nicht nacheinander.
Mit dieser Herangehensweise lässt sich KI so einführen, dass sie Ihrem Unternehmen nützt, ohne dass Datenschutz zum nachträglichen Problem wird. Genau das macht am Ende den Unterschied zwischen einem Tool, das Vertrauen schafft, und einem, das stille Risiken birgt.
Seit über 25 Jahren entwickelt Miki Software, die Unternehmen dabei unterstützt, effizienter zu arbeiten und ihre digitale Transformation erfolgreich umzusetzen.
Digitale Souveränität und KI: Wie Unternehmen die Kontrolle über ihre Daten behalten und Sicherheit, Compliance und Vertrauen in der Praxis absichern.
Vendor Lock-in vermeiden und bestehende Abhängigkeiten schrittweise auflösen: Strategien für flexible Architekturen, offene Standards und digitale Unabhängigkeit.
Wie abhängig ist Ihr Unternehmen von Cloud-Anbietern und Software-Herstellern? Der Selbsttest für CTOs zeigt Ihren Reifegrad bei digitaler Souveränität.