#65: „Nach Schatten-IT kommt jetzt Schatten-KI!“

Episode von Follow the White Rabbit - Der IT-Security Podcast von Link11 · 15. Juli 2026 · 36 min

Die Strategie wurde kommuniziert, das Tool wurde eingeführt und das Pilotprojekt läuft. Von außen sieht alles modern aus. Aber wie ist es in den Teams? Stille Erschöpfung. Heimlich genutzte Tools. Und irgendwo eine Kundendatei, die längst in einem nicht genehmigten KI-System gelandet ist. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Rebecca Hundschell, Gründerin des „Female AI Club” und Expertin für KI-Governance, über das, was wirklich passiert, wenn KI in ein Unternehmen einzieht – jenseits der Hochglanzstrategie.

Rebecca kennt beide Seiten: die Begeisterung und die Überforderung. Sie erklärt, warum Schatten-KI das neue Schatten-IT ist und dass es sich dabei nicht um ein Disziplin-, sondern um ein Führungsproblem handelt. Ein Praxisbeispiel aus der Folge spricht für sich: Jemand bildete seine gesamte Kundenarbeit über ein privates KI-Tool ab, sparte rund 100 Beratertage und schuf dabei einen handfesten DSGVO-Verstoß. Wer Schatten-KI ignoriert, hat nicht weniger Risiko. Er hat nur weniger Sichtbarkeit. Dazu kommt die Kostenfalle: KI bleibt nicht billig. Ein Konzern hatte sein KI-Jahresbudget bereits im April aufgebraucht, weil im Vorfeld niemand gefragt hatte, an welcher Stelle der Wertschöpfungskette KI tatsächlich einen Mehrwert bietet.

Und dann ist da noch der blinde Fleck, über den kaum jemand spricht: KI-Systeme sind statistische Modelle, keine Wahrheitsmaschinen. Sie halluzinieren. Sie reproduzieren Vorurteile – nur eben skalierbar. Bewerbungstools sortieren Frauen, ältere Menschen und Menschen mit Migrationshintergrund millionenfach aus. Junior-Jobs verschwinden, bevor die nächste Generation die nötige Seniorität aufbauen kann, die KI später einordnen soll. Diese Folge ist kein KI-Hype. Sie ist der Realitätscheck, den viele Unternehmen gerade bitter nötig haben.

Takeaways

Schatten-KI ist bereits Realität und kein Disziplinproblem. Mitarbeitende greifen zum nützlichsten Tool, nicht zum erlaubten. Wer das ignoriert, hat nicht weniger Risiko, sondern nur weniger Überblick. Governance beginnt mit Sichtbarkeit.

Eine gute KI-Policy braucht keine 15 Seiten. Drei bis vier Seiten reichen aus, wenn drei Dinge geklärt sind: Welche Daten in welches Tool dürfen, welche Tools freigegeben sind und an wen man sich bei Fragen wendet. Verbotssprache erzeugt nur kreative Umgehungen.

KI von oben durchdrücken funktioniert nicht. Change Management schlägt Top-down. Man sollte die Begeisterten zu Multiplikatoren machen, niedrigschwellige Formate wie eine KI-Sprechstunde anbieten und mitdenken: Mit dem AI Act wird KI-Weiterbildung zur Pflicht.

KI bleibt nicht billig. Die Preismodelle werden von Pauschale auf nutzungsbasiert umgestellt. Wer nicht klärt, wo KI entlang der Wertschöpfungskette wirklich Mehrwert schafft, verbrennt Budget – und das nicht nur einmalig, sondern jeden Monat.

Der Gender-Gap in der KI ist kein Randthema, sondern ein Systemrisiko. Zu wenige Frauen entwickeln KI. Zu viele Bewerbungstools sortieren sie aus. Wer an den Tischen fehlt, an denen KI entwickelt wird, ist auch in den Ergebnissen nicht vertreten.

Jetzt abonnieren – und den nächsten Realitätscheck nicht verpassen

Diese Folge ist für all jene, die glauben, beim Thema KI schon „durch” zu sein. Abonniere „Follow the White Rabbit” auf deiner Lieblingsplattform, hinterlasse eine Bewertung und schicke die Folge an Führungskräfte, Kolleg:innen und alle, die KI gerade von oben nach unten einführen – bevor das nächste Datenschutzproblem auftaucht.

Links

Rebecca Hundschell – Gründerin Female AI Club, Expertin für KI-Governance | LinkedIn | The Female AI Club | ELEVAITION Consulting

EU AI Act – Volltext (Verordnung EU 2024/1689)

BSI: Künstliche Intelligenz und IT-Sicherheit

Bitkom: KI in deutschen Unternehmen – Studienlage

The Female AI Club

Weitere Episoden von „Follow the White Rabbit - Der IT-Security Podcast“

Alle Episoden von Follow the White Rabbit - Der IT-Security Podcast · Mehr Technologie-Podcasts