Schatten-IT ist ein altes Problem: Mitarbeitende nutzen Werkzeuge, die die IT nicht kennt. Schatten-KI ist dieselbe Erscheinung mit höherem Einsatz, weil KI-Werkzeuge typischerweise mit genau den Inhalten gefüttert werden, die vertraulich sind: Verträge, Kundendaten, Quellcode, interne Strategien.
Wie Schatten-KI entsteht
Fast nie aus böser Absicht. Mitarbeitende wollen schneller arbeiten, das Unternehmen bietet kein freigegebenes Werkzeug an, und das kostenlose Angebot im Browser ist einen Klick entfernt. Dazu kommen KI-Funktionen, die in bestehende Software eingebaut werden, oft per Update und ohne dass jemand eine neue Datenverarbeitung prüft. Auch Meeting-Assistenten, die sich per Kalenderfreigabe in Besprechungen einklinken, gehören dazu.
Die Risiken
Vertrauliche Daten verlassen das Unternehmen ohne Vertrag zur Auftragsbearbeitung, möglicherweise mit Nutzung für das Training der Modelle. Berufsgeheimnisse und Geschäftsgeheimnisse können verletzt werden. KI-Einsätze, die unter den AI Act fallen, tauchen in keinem KI-Inventar auf. Und Ergebnisse von KI-Werkzeugen fliessen ungeprüft in Entscheidungen und Dokumente ein.
Wie man sie findet
Technisch lassen sich Hinweise aus mehreren Quellen gewinnen: aus OAuth-Freigaben, mit denen Mitarbeitende Drittanwendungen Zugriff auf E-Mail, Kalender oder Dateien gewähren, aus Proxy- oder DNS-Protokollen, aus installierten Browser-Erweiterungen und aus Kreditkartenabrechnungen für Abonnements. Organisatorisch hilft eine Umfrage ohne Sanktionsandrohung, die erstaunlich ehrliche Antworten liefert.
Wie man sie steuert
Verbote allein verschieben die Nutzung auf private Geräte. Wirksamer ist eine kurze KI-Nutzungsrichtlinie, die festlegt, welche Werkzeuge mit welchen Daten erlaubt sind, kombiniert mit einer freigegebenen Alternative, die gut genug ist, dass niemand ausweichen muss. Neue Werkzeuge werden über einen einfachen Freigabeprozess geprüft, der Teil der KI-Governance ist. Ein jährlicher Abgleich der Freigaben mit den technischen Befunden zeigt, ob die Regeln greifen.
Weiterführend
Technisch helfen Data Loss Prevention und ein freigegebenes Werkzeug wie Microsoft 365 Copilot. Wo Agenten Systeme nutzen, gelten die Regeln für das Model Context Protocol.