Schatten-KI im Unternehmen: Nutzung sichtbar machen und klare Regeln schaffen

Was mit Schatten-KI gemeint ist

Schatten-KI bezeichnet in diesem Beitrag KI-Dienste, Konten, integrierte Assistenten oder Schnittstellen, die für betriebliche Aufgaben außerhalb des vereinbarten Freigabe- und Betriebsprozesses eingesetzt werden. Das kann ein privates Chatkonto sein, aber auch eine unbemerkte KI-Funktion in einer bereits genutzten SaaS-Anwendung oder ein selbst eingebundener API-Schlüssel.

Nicht jede nicht freigegebene Nutzung ist automatisch ein Datenschutzvorfall. Sie zeigt jedoch eine Kontrolllücke: Das Unternehmen kann dann möglicherweise nicht zuverlässig beantworten, welche Daten verarbeitet wurden, ob Eingaben gespeichert oder für Training verwendet werden, wer Zugriff hat und wie Ergebnisse geprüft werden.

1. Nutzung erfassen, ohne Beschäftigte auszuspionieren

Beginnen Sie mit Aufgaben statt mit Produktnamen. Fragen Sie Teams beispielsweise, wo sie Texte zusammenfassen, Übersetzungen erstellen, Code prüfen oder Dokumente durchsuchen. Erfassen Sie dazu Werkzeug, Kontoart, eingebundene Daten, Ergebnisverwendung und fachlich verantwortliche Person. Das liefert einen brauchbaren Überblick, ohne Prompt-Inhalte pauschal zu überwachen.

Ergänzen Sie diese Gespräche durch vorhandene Inventar-, Beschaffungs- und Identitätsdaten. Neue technische Überwachung ist kein neutraler erster Schritt: Sie muss selbst rechtlich, organisatorisch und gegebenenfalls mit Datenschutzbeauftragten sowie Beschäftigtenvertretungen bewertet werden.

• Welcher konkrete Arbeitsablauf soll verbessert werden?
• Welche Eingaben, Anhänge, verbundenen Datenquellen und Ausgaben entstehen?
• Wird ein privates, gemeinsam genutztes oder zentral verwaltetes Konto verwendet?
• Wer prüft Ergebnisse und trägt die fachliche Verantwortung?

2. Einfache Regeln nach Datenklasse und Einsatzzweck

Eine kurze Daten- und Nutzungsmatrix ist im Alltag hilfreicher als ein abstraktes Verbot. Öffentliches Material kann für freigegebene Aufgaben zulässig sein, wenn Ergebnisse geprüft werden. Interne Informationen gehören nur in bewertete Werkzeuge und vorgesehene Konten. Personenbezogene Daten, Geschäftsgeheimnisse oder besonders schutzbedürftige Informationen benötigen vorab eine dokumentierte Prüfung von Zweck, Rechtsgrundlage, Vertrag und Schutzmaßnahmen. Zugangsdaten, private Schlüssel und andere Geheimnisse gehören nicht in Prompts.

Die Einstufung hängt nicht nur vom Dokument ab. Auch ein zunächst harmloser Text kann durch Namen, Metadaten, Gesprächsverlauf oder die Kombination mehrerer Angaben schutzbedürftig werden. Definieren Sie deshalb nicht nur erlaubte Werkzeuge, sondern auch erlaubte Zwecke und Datenarten.

3. Werkzeuge und Verträge anhand derselben Fragen prüfen

Ein Enterprise-Label ist keine Sicherheitsgarantie, und ein kostenloses Angebot ist nicht automatisch ungeeignet. Entscheidend sind die tatsächlich vereinbarten und konfigurierten Bedingungen. Halten Sie die Ergebnisse mit Versions- oder Prüfdatum fest, weil Anbieter Funktionen, Unterauftragnehmer und Aufbewahrungsregeln ändern können.

• Wer ist für welche Verarbeitung verantwortlich, und ist gegebenenfalls ein Vertrag zur Auftragsverarbeitung erforderlich?
• Werden Eingaben und Ausgaben gespeichert, für Training verwendet oder durch Menschen geprüft; lässt sich dies vertraglich und technisch steuern?
• Wo werden Daten verarbeitet, welche Unterauftragnehmer sind beteiligt und welche Lösch- oder Exportmöglichkeiten bestehen?
• Unterstützt das Werkzeug SSO, Mehrfaktor-Authentisierung, Rollen, Protokolle und eine begrenzte Freigabe verbundener Datenquellen?
• Wie werden Änderungen am Modell, an Funktionen und an Bedingungen geprüft, bevor sie in kritischen Abläufen wirken?

4. Ergebnisse bleiben prüfbedürftig

Freigegebene Technik ersetzt keine fachliche Kontrolle. Legen Sie fest, für welche Aufgaben KI nur einen Entwurf liefert, wann Quellen überprüft werden müssen und welche Entscheidungen einem Menschen vorbehalten bleiben. Besonders bei Sicherheitskonfigurationen, Kundenaussagen, Personalthemen und rechtlichen oder finanziellen Inhalten sollte der Prüfweg sichtbar dokumentiert sein.

Passende Schulung sollte sich an Rolle, Vorkenntnissen und Risiko orientieren. Artikel 4 der EU-KI-Verordnung verlangt in seiner aktuellen Fassung Maßnahmen zur Unterstützung von KI-Kompetenz; daraus folgt kein einheitliches Schulungsformat für jede Organisation. Kurze Beispiele aus realen Arbeitsabläufen sind häufig hilfreicher als eine einmalige allgemeine Präsentation.

5. Bei einer Fehlfreigabe zuerst Fakten sichern

Wurden versehentlich schutzbedürftige Informationen eingegeben, stoppen Sie die weitere Nutzung dieses Verlaufs und sichern Sie die notwendigen Fakten: Dienst und Konto, Zeitpunkt, betroffene Eingabe oder Datei, Empfängerkreis, relevante Einstellungen und bereits genutzte Löschfunktionen. Verteilen Sie sensible Prompts oder Screenshots nicht unnötig weiter. Beziehen Sie Informationssicherheit, Datenschutz und die fachlich verantwortliche Stelle nach dem bestehenden Meldeweg ein.

Eine Löschschaltfläche ist ein sinnvoller Sofortschritt, aber kein Beleg dafür, dass alle Kopien entfernt wurden. Prüfen Sie die dokumentierten Anbieterprozesse und bewerten Sie die tatsächliche Auswirkung. Wenn personenbezogene Daten betroffen sind, ist gesondert zu beurteilen, ob eine Verletzung des Schutzes personenbezogener Daten vorliegt. Nach Artikel 33 DSGVO muss der Verantwortliche die zuständige Aufsichtsbehörde unverzüglich und möglichst innerhalb von 72 Stunden ab Kenntnis der Verletzung informieren, außer wenn daraus voraussichtlich kein Risiko für die Rechte und Freiheiten der Betroffenen entsteht. Noch fehlende Angaben können schrittweise nachgereicht werden. Artikel 34 verlangt bei einem voraussichtlich hohen Risiko grundsätzlich zusätzlich eine unverzügliche Information der betroffenen Personen. Dokumentieren Sie die Entscheidung und ziehen Sie für die rechtliche Bewertung Datenschutzbeauftragte oder Rechtsberatung hinzu.

Ein praktikabler 30-Tage-Start

• Woche 1: Einsatzfälle und bereits genutzte Werkzeuge pro Team erfassen; keine Prompt-Sammlung anlegen.
• Woche 2: Datenklassen, erlaubte Zwecke und zunächst gesperrte Anwendungen in einer Seite beschreiben.
• Woche 3: zwei oder drei häufige Werkzeuge anhand derselben Vertrags-, Datenschutz- und Sicherheitsfragen bewerten.
• Woche 4: freigegebene Konten bereitstellen, rollenbezogen schulen und einen kurzen Meldeweg für Fehlfreigaben testen.
• Danach: Verantwortliche und regelmäßigen Prüftermin festlegen; neue Funktionen und verbundene Datenquellen vor Aktivierung erneut bewerten.

Technik und Regeln gemeinsam betreiben

Schatten-KI lässt sich nicht allein mit einer Richtlinie oder einem Filter lösen. Ein tragfähiger Prozess verbindet verständliche Regeln mit zentralen Konten, Identitäts- und Zugriffssteuerung, begrenzten Datenverbindungen, nachvollziehbaren Einstellungen und einer offenen Meldemöglichkeit. So wird aus inoffizieller Nutzung ein steuerbarer Arbeitsablauf, ohne sinnvolle Experimente grundsätzlich zu verhindern.

Wenn für einen freigegebenen KI-Dienst Infrastruktur, Identitätsanbindung oder der sichere Betrieb einer selbst gehosteten Anwendung geplant werden soll, können die technischen Anforderungen gemeinsam mit dem bestehenden Datenschutz- und Sicherheitsprozess bewertet werden.