Shadow AI : Die KI-Werkzeuge der Mitarbeiter wieder unter Kontrolle bringen

Was genau soll ich übersetzen? Der Text ist auf Französisch, und die Zielsprache ist Deutsch. Ich gebe unten die vollständige Übersetzung wieder, mit den Quellenverweisen in eckigen Klammern unverändert.

Was ist Shadow AI und wie weit reicht es in Ihrem Unternehmen?

Shadow AI bezeichnet die Nutzung von KI-Tools durch Beschäftigte ohne Freigabe oder Aufsicht durch das Unternehmen oder die IT-Abteilung [32]. Es ist die KI-Variante von Shadow IT [32]. Eine Quelle beschreibt es als „nicht reguliert und nicht genehmigt“ genutzte KI durch Mitarbeitende [3], eine andere bezeichnet generative KI als „erste Shadow-Anwendung der Arbeitswelt“ [5].

Wie das konkret aussieht:

• ein persönliches ChatGPT-Konto, eröffnet mit einer Gmail-Adresse [28];
• persönliche Konten für generative KI und nicht von der IT-Abteilung geprüfte Erweiterungen [25];
• KI-Tools, die auf privaten Geräten für die Arbeit genutzt werden [7].

Das Phänomen wächst, weil es einem Bedürfnis entspricht: Effizienzgewinn [33].

Was die Zahlen belegen

Unser Dossier enthält nur eine Messung wissenschaftlicher Art. Laut einer auf Cairn veröffentlichten Studie nutzen nur 20 % der Befragten ausschließlich die von ihrer Organisation bereitgestellten Tools [2]. Der verfügbare Auszug nennt weder Stichprobe noch Erhebungszeitraum: Merken Sie sich die Größenordnung, nicht eine verallgemeinerbare Statistik.

Zwei weitere Zahlen kursieren, stammen aber aus Blogs, deren Methodik wir nicht überprüfen konnten:

• 68 % der französischen Beschäftigten nutzten KI, ohne ihre Vorgesetzten zu informieren [22];
• 8 von 10 Unternehmen verlören die Kontrolle über ihre KI [21].

Diese beiden Zahlen messen nicht dasselbe wie die akademische Studie. Sie sind nicht vergleichbar und ersetzen keine interne Bestandsaufnahme: Nur eine Kartierung Ihrer Nutzung zeigt, wo Sie stehen.

Welche Risiken birgt nicht genehmigte KI für das Unternehmen?

Shadow AI setzt das Unternehmen drei Risikofamilien aus: rechtlichen (DSGVO, KI-Verordnung), technischen (Sicherheitslücken, Daten außerhalb Ihres Einflussbereichs) und operativen (Halluzinationen). Die meisten verfügbaren Quellen stammen von Anbietern oder Beratungsunternehmen. Sie benennen diese Risiken, beziffern sie aber nicht nachprüfbar.

• DSGVO, Sicherheitslücken, Halluzinationen. Das sind die drei Risiken, die ein Beitrag des Unternehmens Koul zu Shadow AI hervorhebt [22].
• Konformität mit der KI-Verordnung. Ein Beitrag von Adequacy stellt Shadow AI als Quelle von Sicherheits- und Compliance-Risiken im Hinblick auf die KI-Verordnung dar [36]. Die verfügbaren Auszüge erläutern weder die betroffenen Pflichten noch die Sanktionen.
• Datenexposition. Shadow AI entzieht sich den Datensicherheitsrichtlinien [40]. Ein Werk zur hybriden Intelligenz merkt an, dass KI-Nutzung ohne geeignete Architektur das Unternehmen Risiken aussetzen kann [4]. Der Anbieter Olfeo spricht von „erheblichen Risiken“ für betroffene Unternehmen [17].
• Blinder Fleck der Governance. Ein Praktiker für souveräne und resiliente Unternehmens-KI beschreibt Shadow AI als blinden Fleck, dem er in seinem gesamten Vorgehen begegnet [6].

Ein Mehrkostenaufschlag von 15 % – mit Vorsicht zu lesen

In Europa würden die durchschnittlichen Kosten eines KI-Vorfalls die eines klassischen Datenlecks um 15 % übersteigen (Microsoft, 2024) [40]. Diese Zahl wird von SoSafe berichtet, einem kommerziellen Anbieter von Sicherheitssensibilisierung. Die Originalstudie ist nicht Teil unseres Dossiers, und wir konnten sie nicht überprüfen. Sie ist daher als unbestätigte Größenordnung zu lesen, nicht als Referenzwert für ein Budget oder eine interne Argumentation.

Warum reicht ein KI-Verbot nicht aus?

Ein Verbot von KI-Tools reicht nicht aus: Es verlagert die Nutzung, ohne sie zu beseitigen. Laut einem Artikel von Solutions Numériques & Cybersécurité haben Verbote die Nutzung lediglich aus dem sichtbaren Bereich der IT-Abteilung verlagert, wodurch Shadow AI noch schwerer zu kontrollieren ist [35]. Ein Beschäftigter, der am Arbeitsplatz blockiert ist, wechselt auf ein privates Gerät, und die IT-Abteilung verliert jede Transparenz. Eine universitäre Quelle hebt zudem hervor, dass Beschäftigte KI-Tools bereits auf privaten Geräten für die Arbeit nutzen [7].

Begleiten statt verbieten. Mehrere Quellen gehen in diese Richtung, mit ähnlichen Formulierungen:

• Es gehe nicht darum, KI zu verbieten, sondern sie einzuhegen und steuerbar zu machen [38];
• man müsse die Kontrolle zurückgewinnen, ohne in die Falle eines fruchtlosen Verbots zu tappen [21];
• dies müsse geschehen, ohne Innovation auszubremsen [22][23].

Diese Inhalte stammen vor allem von Beratungs- und Softwareunternehmen, die ein Interesse daran haben, Lösungen zur Einhegung zu verkaufen. Ihre Übereinstimmung mit der Analyse von [35] ist dennoch deutlich.

Gezielte Sperren haben ihren Platz, sofern sie begleitet werden. Ein von einer Beratungsgesellschaft beschriebener Fall veranschaulicht das Gleichgewicht: öffentliche Tools werden für einen Arbeitsplatz über Firewall-Regeln gesperrt, während die Mitarbeiterin im KI-Modul der internen Dokumentenmanagement-Software geschult wird [31]. Eine Sperre wirkt nur, wenn sie von einer freigegebenen Alternative und einer Schulung begleitet wird. Technische Kontrollen (Nachvollziehbarkeit, Alarm bei Datenabfluss, Kennzeichnung sensibler Dokumente) ergänzen das Vorgehen [23].

Eine Frage des Veränderungsmanagements. Eine auf Cairn veröffentlichte Analyse erinnert daran, dass die Verbreitung generativer KI-Tools „einen echten Wandel“ für das Unternehmen bedeutet, dessen Symptom unter anderem Shadow AI als nicht regulierte und nicht genehmigte Nutzung ist [3]. Wer dies nur als Regelverstoß behandelt, übersieht diesen Wandel.

Genau hier setzt die Logik von Oupi an: ein einziger sicherer Rahmen für alle KI-Anwendungen des Teams, statt verstreuter persönlicher Abonnements.

Wie lassen sich die tatsächlich vorhandenen KI-Nutzungen erkennen und kartieren?

Um Shadow AI zu erkennen, muss man zunächst klären, wer welche KI-Tools nutzt, und dieses Bild dann mit drei technischen Spuren abgleichen. Das Vorgehen besteht darin, die bestehenden Nutzungen zu kartieren, indem man ermittelt, welche Mitarbeitenden welche Tools verwenden [12], und das Ergebnis mit den Teams zu teilen, denn Kartierung und Sensibilisierung gehen Hand in Hand [11].

Für den technischen Teil werden drei Kontrollpunkte empfohlen [26]:

• Zugriffe auf Drittkonten: Zu welchen externen Diensten verschaffen die Zugangsdaten oder Konten des Unternehmens Zugriff?
• Datenexporte an externe Dienste: Welche Daten verlassen das Informationssystem und wohin?
• Plugins und Erweiterungen auf den Arbeitsplatzrechnern: Welche Module sind in den Browsern und auf den Geräten installiert?

Diese Kontrollen zielen auf Nutzungen, die im offiziellen Anwendungskatalog nicht auftauchen. Ein persönliches Konto für generative KI, eröffnet mit einer Gmail-Adresse, ist das typische Beispiel [28]. Verbote ohne Transparenz helfen wenig: Sie haben die Nutzung lediglich aus dem sichtbaren Bereich der IT-Abteilung verlagert [35].

Reichen manuelle Prüfungen nicht aus, erkennen Erkennungsplattformen die tatsächliche Nutzung, auch jene, die an den üblichen Wegen vorbeilaufen, und helfen, das Ausmaß der Exposition zu messen [20]. Auf Netzwerkebene wirbt ein Cybersicherheitsanbieter mit einem SSE-Ansatz (Secure Service Edge) zur Absicherung von KI-Nutzung [17].

Hinweis zur Lesart: Die meisten dieser Empfehlungen stammen von kommerziellen Akteuren, also Anbietern, Dienstleistern oder Beratungsunternehmen [11][12][17][20][26]. Keine dieser Quellen belegt die vergleichende Wirksamkeit der Methoden oder Werkzeuge. Sie liefern einen Leitfaden, den Sie mit Ihrer eigenen Umgebung abgleichen sollten, und ersetzen keinen unabhängigen Benchmark.

Welches validierte KI-Tool kann persönliche Abonnements ersetzen?

Am wirksamsten ist ein internes, von der IT-Abteilung freigegebenes Angebot, das den Beschäftigten eine sichere Alternative zu ihren persönlichen Abonnements bietet. Die konsultierten Quellen gehen in diese Richtung: Sie empfehlen, sichere, von der IT-Abteilung validierte interne KI-Lösungen anzubieten, ergänzt um klare Regeln für den Umgang mit Daten (Nutzung, Speicherung, Weitergabe) [29]. Diese Empfehlungen stammen aus Fachmedien und Beratungsunternehmen, nicht von einer Aufsichtsbehörde.

Der Ausgangspunkt ist klar: Shadow AI läuft meist über persönliche Konten ohne Freigabe oder Rahmen des Unternehmens [15]. Ein mit einer Gmail-Adresse eröffnetes ChatGPT-Konto ist das typische Beispiel [28].

Kriterien für ein validiertes Tool

Ein Ersatz-Tool sollte zwei Anforderungen erfüllen:

• Konfiguration nach präzisen Regeln: Manche Plattformen für generative KI erlauben es, Nutzungen nach festgelegten Regeln zu konfigurieren [23];
• Garantien für die Daten: Manche Plattformen sichern zu, dass Daten weder gespeichert noch zum Training der Modelle verwendet werden [23].

Diese Punkte sind bei jeder infrage kommenden Lösung vertraglich und technisch zu prüfen.

Die Positionierung von Oupi

Oupi bietet einen einzigen sicheren Rahmen für alle KI-Anwendungen des Teams, anstelle verstreuter persönlicher Abonnements. Für eine IT-Abteilung liegt der Vorteil darin, dass sich Nutzungen, die auf mehrere individuelle Konten verteilt sind, an einem einzigen Einstiegspunkt bündeln lassen, den sie validieren und steuern kann.

Das Angebot löst allein nicht alles: Es muss mit den Nutzungsregeln und technischen Kontrollen aus dem folgenden Abschnitt einhergehen. Ohne glaubwürdige Alternative hat aber ein Verbot allein vor allem die Nutzung aus dem sichtbaren Bereich der IT-Abteilung verlagert [35].

Welche Regeln, Schulungen und technischen Kontrollen sind einzurichten?

Vier Hebel tragen das Vorgehen: Regeln zu Daten, ein gemeinsam mit den Teams erarbeiteter Rahmen, eine praxisnahe Schulung und technische Kontrollen. Abgesehen von der Regierungsstudie [1] stammen diese Empfehlungen aus nicht-primären Quellen (Anbieter, Beratungsunternehmen, Fachmedien). Es handelt sich um empfohlene Praktiken, nicht um erprobte Standards.

Klare Regeln zu Daten. Es geht darum festzulegen, was mit einem KI-Tool genutzt, gespeichert und weitergegeben werden darf [29]. Damit der Rahmen akzeptiert wird, empfiehlt die Regierungsstudie Workshops, in denen gemeinsam die Qualität der Arbeit mit KI definiert und ihre Veränderungen antizipiert werden, und anschließend einen auf Klarheit beruhenden Vertrauensrahmen [1].

Praxisnahe Schulung. Sensibilisierung beschränkt sich nicht auf die Erinnerung an die Nutzungsrichtlinie. Ein Anbieter empfiehlt, die Teams zu schulen, Risiken zu erkennen, eine sorgfältige Prompt-Hygiene zu pflegen, die gelieferten Ergebnisse zu überprüfen und nicht unbedacht zu kopieren [27]. Ein anderer ergänzt die digitale Sicherheit und die DSGVO-Konformität [29].

Technische Kontrollen. Ein Fachmedium nennt mehrere Maßnahmen: automatisierte Governance-Werkzeuge, Kennzeichnung sensibler Dokumente, Nachvollziehbarkeit und Alarme bei Datenabfluss [23]. Es erwähnt außerdem KI-Plattformen, die sich nach präzisen Regeln konfigurieren lassen oder garantieren, dass Daten weder gespeichert noch zum Training der Modelle verwendet werden [23]. Auf Seiten der IT-Abteilung empfiehlt ein Sicherheitsanbieter einen SSE-Ansatz zur Absicherung von KI-Nutzung [17]. Diese Kontrollen setzen voraus, dass man weiß, wer was nutzt, weshalb die vorgelagerte Kartierung so wichtig ist [11].

Diese drei Hebel stützen sich leichter auf einen einzigen Rahmen als auf verstreute persönliche Abonnements: Darin liegt die Logik von Oupi, das alle KI-Anwendungen des Teams in einem einzigen sicheren Rahmen bündelt.