Warum alle bei KI lügen
Shadow AI breitet sich in Ihrem Unternehmen aus. Erfahren Sie, warum Verbote scheitern und wie versteckte KI-Nutzung zum sicheren Vorteil wird.
Überblick
Beschäftigte in allen Branchen nutzen generative KI-Werkzeuge, unabhängig davon, ob ihre Organisationen diese genehmigt haben. Diese Praxis, die als Shadow AI bezeichnet wird, birgt Risiken und Chancen. Dieser Artikel fasst die Expertendiskussion über die Ursachen von Shadow AI, die Haltungen, die Organisationen ihr gegenüber einnehmen, sowie einen empfohlenen Ansatz zu ihrer Einbindung in die Governance zusammen.
Definition von Shadow AI
Shadow AI leitet seinen Begriff von Shadow IT ab, womit Technologie bezeichnet wird, die innerhalb einer Organisation ohne formelle Genehmigung eingesetzt wird. Shadow AI überträgt dieses Muster auf generative KI. Chatbots und, in jüngerer Zeit, KI-Agenten bilden die neueste Schicht nicht genehmigter Technologie im Unternehmen.
Die Diskussion unterscheidet zwei zusammenhängende, aber getrennte Aktivitäten, die Organisationen unter dem einheitlichen Begriff „KI-Transformation“ häufig verwechseln:
- Intelligenzeinsatz: Mitarbeitenden Zugang zu Frontier-Modellen bereitstellen, um sie produktiver, kreativer und leistungsfähiger zu machen.
- Automatisierung: Technologie einsetzen, um Prozesse zu automatisieren, Engpässe zu beseitigen und manuelle Arbeit zu eliminieren. Automatisierung kann generative KI einbeziehen, muss dies aber nicht. Automatisierungsexperten bevorzugen in der Regel vorhersehbare Ergebnisse gegenüber generativen Ausgaben.
Umfang und Anreize
Die Umfragezahlen zur KI-Nutzung variieren stark. Je nach Umfrage nutzen zwischen 40 % und 80 % der Beschäftigten KI, unabhängig davon, ob deren Verwendung genehmigt ist oder nicht. Die Referenten merkten an, dass manche Umfragen nicht ausreichend belastbar und methodisch nicht sorgfältig genug seien. Ihre eigenen Beobachtungen aus Gesprächen mit CTOs, CEOs, Vizepräsidenten, Direktoren und anderen Mitarbeitenden deuten auf Nutzung auf allen organisatorischen Ebenen hin.
Dabei zeichneten sich mehrere Muster ab:
- Senior Executives gehören laut einigen Studien zu den häufigsten Nutzern nicht genehmigter KI.
- Mittlere Führungskräfte nutzen KI, um Schritt zu halten, da manche Organisationen Stellen im mittleren Management abbauen.
- Individuelle Mitarbeitende ohne Führungsverantwortung nutzen generative KI, um sich gegenüber Kolleginnen und Kollegen abzuheben oder ihre Position zu sichern.
- Verheimlichung tritt auf allen Ebenen auf. Umfragen nannten Werte von 26 % der Mitarbeitenden ohne Führungsverantwortung, die auch dann nicht genehmigte KI nutzen würden, wenn deren Verwendung ausdrücklich untersagt ist, und 46 % nach einer anderen Messmethode.
Die Referenten identifizierten die Anreizstruktur als den wichtigsten Treiber. Beschäftigte wollen mit ihren Kolleginnen und Kollegen mithalten, fürchten jedoch Sanktionen für die damit verbundenen Risiken.
Organisatorische Haltungen gegenüber Schatten-KI
Die Referenten beschrieben vier Haltungen. Die am weitesten verbreitete Haltung bezeichneten sie als die problematischste.
| Haltung | Beschreibung | Bewertung |
|---|---|---|
| Nicht fragen, nicht erzählen | Führungskräfte wissen, dass Mitarbeitende KI nutzen, und unternehmen nichts, bis ein Vorfall eintritt | Am häufigsten; nicht optimal |
| Generelles Verbot | Untersagung, die durch Einschränkungen durchgesetzt wird | Erzeugt absichtliche Blindheit; die Nutzung geht weiter |
| Verpflichtende Quoten | KI-Nutzung ist für alle Mitarbeitenden vorgeschrieben | Erhöht die Arbeitslast; belohnt minderwertige Nutzung |
| Champions und Evangelisten | Fürsprecher, die die Einführung vorantreiben | Empfohlener Ansatz |
Risiken unkontrollierter Nutzung
Die Referenten nannten zwei zentrale Risiken:
- Datenschutzverletzungen. Die Referenten nannten durchschnittliche Kosten von 670.000 $ pro Datenschutzverletzung.
- Halluzinationen. Fehlerhafte KI-generierte Inhalte haben erheblichen Schaden verursacht. Eine große Beratungsfirma lieferte einem Großkunden einen Bericht mit Halluzinationen, erstattete dem Kunden das gesamte Honorar und korrigierte den Bericht auf eigene Kosten. Auch Anwaltskanzleien und Fluggesellschaften sahen sich wegen halluzinierter Inhalte bereits mit Klagen konfrontiert.
Empfohlener Ansatz: Ausgewogene, genehmigte Nutzung
Die Referenten empfahlen eine genehmigte Nutzung, die sicher gestaltet und an definierte geschäftliche Zwecke gebunden ist. Zwei Punkte prägten diese Empfehlung:
- Unternehmensweiter Zugang zu kostspieligen Fähigkeiten wie Microsoft Copilot kann die Preise deutlich in die Höhe treiben, ohne dass der Nutzen proportional steigt. Einige große Organisationen haben dieses Ergebnis bereits erlebt.
- Führungskräfte, die am meisten von Frontier-Modellen profitieren, sollten zuerst sicheren Zugang erhalten, ohne dass dieselbe Fähigkeit auf das gesamte Unternehmen ausgeweitet werden muss, was mit Kosten verbunden wäre.
Von der Spitze aus führen
Die Referenten erklärten, dass KI zu wichtig sei, um sie von der Geschäftsführung an die IT-Abteilung zu delegieren. Sie empfahlen folgende Reihenfolge:
- Executive Fluency aufbauen. Führungskräfte, einschließlich Aufsichtsratsvorsitzender, Vorstandsmitglieder und Geschäftsführer, sollten zunächst ein persönliches Verständnis für Frontier-Modelle entwickeln, einschließlich ihrer Leistungsfähigkeit, ihres Potenzials und ihrer Grenzen. Die Referenten merkten an, dass dieser Schritt einen Mentalitätswandel erfordert und keine formale Schulung, und dass er schnell erfolgen kann.
- Entscheiden, wer befähigt werden soll. Führungskräfte sollten festlegen, welche Rollen Zugang benötigen, und die Fluency nach unten in die Organisation weitergeben.
- Die architektonische Entscheidung treffen. Organisationen müssen entscheiden, ob sie KI-Fähigkeiten selbst entwickeln oder als Abonnement beziehen.
- Richtlinien festlegen. Organisationen sollten intern genehmigte Nutzungsrichtlinien definieren sowie Leitprinzipien, die sie extern veröffentlichen können.
Die Referenten beschrieben ein Muster, bei dem eine Führungskraft, die KI persönlich nutzt und deren Vorteile erkennt, sie gegenüber der nächsten Führungsebene vertritt. Sie beschrieben dies als Domino-Effekt, der sich über einen Zeitraum von mehr als einem Jahr in den Organisationen vollzog, mit denen sie zusammengearbeitet haben.
Die Referenten wiesen außerdem darauf hin, dass sich die Entscheidungen zu Datenresidenz und Datensouveränität für Unternehmen innerhalb und außerhalb der Vereinigten Staaten unterscheiden. Sie erklärten, dass diese Faktoren adressiert werden können.
Fünf-Schritte-Framework zur Offenlegung von Shadow AI
Die Referenten schlugen fünf praktische Schritte vor:
- Amnestie. Mitarbeitende, die ihre KI-Nutzung offenlegen, sollten nicht bestraft werden, es sei denn, ihre Nutzung verursacht erhebliche finanzielle oder reputationsbezogene Schäden. Die Amnestie fördert die Offenlegung.
- Umfrage. Organisationen sollten echte anonyme Umfragen durchführen, nicht pseudonyme, um festzustellen, welche Tools Mitarbeitende nutzen und warum. Die Amnestie lässt sich in die Gestaltung der Umfrage einbinden.
- Governance-Richtlinie. Eine klare Richtlinie sollte festlegen, welche Nutzungen genehmigt und welche untersagt sind, sowie den Prozess für die Genehmigung neuer Anwendungsfälle. Führungskräfte im mittleren Management können nur dann als federführende Champions fungieren, wenn sie auf eine solche Richtlinie zurückgreifen können.
- Einstiegswege (On-Ramps). Organisationen sollten drei Anfragen unterscheiden: ein Tool, einen Prozess oder einen Anwendungsfall. Die Genehmigung eines Tools ist eine Entscheidung über Software-as-a-Service, betrifft aber auch Menschen, Prozesse, Daten und andere organisatorische Elemente.
- Onboarding. Organisationen sollten die Umfrage verteilen, Mitarbeitende zur Governance-Richtlinie schulen und Regeln klarstellen. Ein möglicher Ansatz ist eine „Bring Your Own AI“-Richtlinie, die festlegt, welche Daten Mitarbeitende niemals in persönliche KI-Tools eingeben dürfen und welche Daten sie verwenden dürfen.
Die Referenten rieten von übermäßiger Länge der Richtlinien ab. Sie nannten interne Nutzungsrichtlinien mit 15 bis 50 Seiten und empfahlen für ein mittelständisches Unternehmen ein einseitiges Dokument, das festhält, was erlaubt ist und was nicht. Sie merkten an, dass das Verständnis dafür, wie Mitarbeitende KI nutzen, Ideen zur Verbesserung des Geschäfts hervorbringen kann.
Mit persönlichen Geräten beginnen
Die Referenten beschrieben, wie sie das Engagement von Führungskräften auf einem persönlichen Computer und Telefon begannen. Organisationen haben Frontier-Modelle in diesem Stadium typischerweise nicht für den Unternehmenseinsatz freigegeben. Einige haben Microsoft Copilot aktiviert oder testen Tools ohne Unternehmensversionen von ChatGPT oder Claude. Die Referenten beschrieben, wie sie ein persönliches KI-Projekt konfigurierten, das ausschließlich auf öffentlich verfügbare Dokumente zugreift und als Stabschef fungiert. Sie beschrieben dies als den Beginn einer Erfahrung, die zeigt, was zusätzliche Intelligenz leisten kann, wenn sie richtig konfiguriert ist.
Emotionaler Verlauf bei Führungskräften
Die Sprecher beschrieben eine wiederkehrende Abfolge emotionaler Reaktionen bei Managern und Geschäftsführern:
- Skepsis
- Begeisterung nach regelmäßiger Nutzung der Werkzeuge
- Furcht oder Angst angesichts des Ausmaßes des Wandels
- Paranoia, wenn sie erkennen, dass viele Mitarbeiter KI bereits nutzen und Führungskräfte diese Nutzung nicht vollständig kennen
- Erneute Begeisterung, sobald Führungskräfte sich auf beratende Unterstützung einlassen
Fazit
Die Referenten stellten Schatten-KI als einen weit verbreiteten Zustand dar, mit dem Organisationen umgehen müssen, anstatt ihn zu unterdrücken. Ihr empfohlener Weg verbindet Führungskräfte-Kompetenz, eine klare Governance-Richtlinie, anonyme Erfassung, definierte Einstiegswege sowie genehmigte Nutzung, die an geschäftliche Zwecke gebunden ist.
Einführung und Mission
Einführung in den Podcast, die Gastgeber und die Mission, Führungskräften von Unternehmen dabei zu helfen, sich im Zeitalter von Intelligenz und Automatisierung zurechtzufinden.
- Der Podcast heißt Critical Path und konzentriert sich darauf, was Führungskräfte und Entscheidungsträger branchenübergreifend angesichts generativer KI tun können.
- David Shapiro hat rund 20 Jahre Erfahrung in der Technologiebranche: die ersten 15 in IT-Infrastruktur und Cloud-Automatisierung, die letzten fünf in generativer KI.
- Dalabore Petravvic ist ein im Ruhestand befindlicher Senior Partner bei Deloitte mit mehr als 30 Jahren Branchenerfahrung.
- Die Mission besteht darin, Führungskräften von Unternehmen Klarheit und Zuversicht zu vermitteln, mit dem Ziel, Organisationen intelligenter und stärker automatisiert zu machen, dabei aber weiterhin autonom zu bleiben.
- Shapiros persönliche Mission ist der Aufbau einer automatisierten Zukunft mit Schwerpunkt auf der Ökonomie nach der Arbeit.
- Das erste Thema ist Shadow AI, abgeleitet von Shadow IT.
Der Umfang von Schatten-KI
Schatten-KI ist die nächste Ebene der Schatten-IT, angetrieben durch Mitarbeitende, die nicht genehmigte generative KI nutzen, insbesondere Chatbots und Agenten.
- Schatten-KI wird definiert als generative KI in Form von Chatbots und Agenten, die außerhalb genehmigter Kanäle genutzt wird und die Schatten-IT erweitert.
- Umfrageschätzungen reichen von 40 % bis 80 % der Mitarbeitenden, die KI nutzen, ob genehmigt oder nicht; die Moderatoren warnen, dass einige Umfragen nicht rigoros sind.
- Die Nutzung erfolgt auf allen Ebenen, einschließlich C-Level, mittlerem Management und einzelnen Mitarbeitenden; einige Studien deuten darauf hin, dass die C-Level-Ebene am stärksten gegen die Regeln verstößt.
- Einige zitierte Umfragen: 26 % der einzelnen Mitarbeitenden würden nicht genehmigte KI auch dann nutzen, wenn sie verboten wäre, sowie 46 % oder ähnliche Werte.
- Mitarbeitende befürchten, den Anschluss zu verlieren, fürchten aber gleichzeitig Sanktionen für die damit verbundenen Risiken.
- Dalabore weist darauf hin, dass sowohl große öffentliche Organisationen (50.000+ Personen) als auch kleine private Unternehmen eine hohe KI-Nutzung zeigen.
KI richtig einladen
Organisationen sollten die KI-Nutzung einladen und richtig lenken, indem sie den Einsatz zusätzlicher Intelligenz von der Automatisierung trennen.
- Die Gastgeber argumentieren: Du kannst dem nicht widerstehen. Lade es ein. Lade es richtig ein.
- Zwei verbundene, aber getrennte Aktivitäten: der Einsatz zusätzlicher Intelligenz für Menschen und die Automatisierung von Prozessen.
- Der Einsatz von Frontier-Modellen steigert Produktivität und Kreativität; Automatisierung beseitigt Engpässe und manuelle Arbeit und sollte vorhersehbar sein, oft nicht generativ.
- Schatten-IT entsteht, weil Menschen fehlende oder übermäßig strenge Regeln umgehen, um auf Intelligenz zuzugreifen.
- Ziel: Menschen Zugang zu Intelligenz geben, Nutzung ohne Strafe sichtbar machen und entscheiden, wer Zugriff auf sichere, geschützte, orchestrierte Frontier-Modelle erhalten sollte.
Haltungen gegenüber Schatten-KI
Übliche Unternehmenshaltungen gegenüber Schatten-KI sind fehlerhaft; die empfohlene Haltung ist ausgewogen, genehmigt und von Champions getragen.
- Die häufigste Haltung ist „nicht fragen, nicht sagen“: Führungskräfte ignorieren die Nutzung, bis etwas schiefgeht, etwa eine Datenpanne oder Halluzinationen.
- Datenpannen sollen im Durchschnitt etwa 670.000 US-Dollar kosten.
- Deloitte hatte einen weithin beachteten Vorfall, bei dem ein Bericht mit Halluzinationen dazu führte, dass ein großer Kunde das gesamte Honorar zurückerstattet bekam; auch Anwaltskanzleien und Fluggesellschaften wurden wegen Halluzinationen verklagt.
- Pauschale Verbote sind wirkungslos und kommen einer absichtlichen Blindheit gleich.
- Quoten erhöhen die Arbeitsbelastung und fördern schlechtes Verhalten; ein Beispiel nennt einen Copilot-Platz für 40 US-Dollar pro Monat.
- Empfohlene Haltung: Champions oder Evangelisten, die KI befürworten, nachdem sie sich darin sicher bewegen.
- Führungskräfte müssen sich persönlich im Umgang mit Frontier-Modellen sicher machen; KI sollte vom CEO nicht an die IT delegiert werden.
- Ausgewogene Reaktion: genehmigten, sicheren Zugang für Führungskräfte bereitstellen, die tatsächlich profitieren, und teure unternehmensweite Lizenzen dort vermeiden, wo der Nutzen gering ist.
- Es gibt Beispiele für große Organisationen, die Copilot unternehmensweit ausgeweitet haben, wobei die Preise stiegen und der Nutzen nicht entsprach.
- Der Sponsorenabschnitt für eine Hutfirma wurde als unzusammenhängender Werbeinhalt ausgeschlossen.
Fünf Schritte, um Schatten-KI einzuladen und einzuhegen
Fünf Schritte, um Schatten-KI ans Licht zu holen: Amnestie, anonyme Umfragen, Governance, Einstiegswege und Onboarding.
- Schritt 1, Amnestie: Mitarbeitende, die ihre KI-Nutzung offen ansprechen, sollten nicht bestraft werden, allerdings wird ernsthafter finanzieller oder reputationsbezogener Schaden nicht verziehen.
- Schritt 2, anonyme Umfrage: Sie muss wirklich anonym sein, nicht nur pseudonym, damit offenbart wird, welche Werkzeuge Menschen nutzen und warum.
- Schritt 3, Governance-Richtlinie: Eine klare Richtlinie legt genehmigte und nicht genehmigte Anwendungsfälle fest und beschreibt, wie neue Anwendungsfälle genehmigt werden können; das mittlere Management fungiert als führende Fürsprecher.
- Schritt 4, Einstiegswege: Anfragen für ein Werkzeug, einen Prozess oder einen Anwendungsfall unterscheiden; die Genehmigung eines Werkzeugs wie ChatGPT betrifft auch Prozesse, Werkzeuge und Daten.
- Schritt 5, Onboarding: Umfragen versenden, zur Governance schulen und Richtlinien für eigene KI (Bring-your-own-AI) in Betracht ziehen, mit klaren Vorgaben, was niemals in private KI eingegeben werden darf.
- Richtlinien sollten kurz sein; ein mittelständisches Unternehmen braucht eine Seite, kein Dokument mit 15 bis 50 Seiten.
- Datenresidenz und Datensouveränität sind wichtig, besonders für Organisationen außerhalb der Vereinigten Staaten.
Ausgangspunkt für Führungskräfte und emotionaler Verlauf
Führungskräfte sollten mit der persönlichen KI-Nutzung auf privaten Geräten beginnen und dafür ein persönliches Projekt als Chief of Staff mit öffentlich zugänglichen Dokumenten einrichten. Danach wird die Einführung nach unten weitergegeben.
- Das Engagement von Führungskräften beginnt typischerweise mit privaten Heimcomputern und Smartphones, weil der Zugang zu Frontier-Modellen im Unternehmen oft noch nicht genehmigt ist.
- Empfohlene Einrichtung: Persönliche Projekte als Chief of Staff konfigurieren, wobei nur öffentlich verfügbare Dokumente verwendet werden.
- Dalabore erklärt, dass keine Zeit zum Warten bleibt, und dass der Dominoeffekt entsteht, wenn der Eigentümer KI übernimmt und sie an die nächste Ebene weiterempfiehlt.
- Ein häufig beobachteter emotionaler Verlauf: Skepsis, Begeisterung, Angst oder Sorge, Paranoia und dann erneute Begeisterung, sobald mit Beratern gearbeitet wird.
- Ziel: Schatten-KI in transparente, ausgewogene KI überführen, die wirtschaftlich sinnvoll ist; nicht jeder Mitarbeiter benötigt womöglich schon tiefen Zugriff.
Abschluss und Kontaktinformationen
Die Moderatoren schließen mit Kontaktinformationen, Ressourcen und der Summit Leadership Alliance.
- Dalabore Petravvic ist auf LinkedIn unter seinem Namen zu finden; er leitet die Summit Leadership Alliance, ein Expertennetzwerk für Führungskräfte auf Senior-Ebene.
- Der Haupt-YouTube-Kanal von David Shapiro heißt Dave Shapiro; Dalabore betreibt den YouTube-Kanal und den Substack Tectonic Conversations.
- Ein White Paper mit dem Titel „the definitive shadow AI July 2026 edition“ ist für Abonnenten auf Patreon und Substack verfügbar.
- E-Mail-Adresse wird für Beratungsanfragen bereitgestellt.
- Shapiros Buch L0 wird als Werk erwähnt, das gesellschaftliche und Governance-Interventionen behandelt.
