Flurfunk - McKinseys KI-Plattform gehackt, OpenAI kauft PromptFoo, Trumps Cyber-Strategie & Microsoft Copilot Cowork
Episode von Breach FM - der Infosec Podcast von Robert Wortmann, Max Imbiel · 11. März 2026 · 54 min
Robert war leider zu müde von meinen Abenteuern am Wochenende für eine pünktliche Folge - dafür steigen wir direkt mit dem vielleicht kuriosesten KI-Fail des noch jungen Jahres ein.
Sicherheitsforscher von CodeWall haben McKinseys interne Gen-AI-Plattform "Lilli" auseinandergenommen. Über 200 API-Endpunkte waren öffentlich zugänglich, 22 davon komplett ohne Authentifizierung. Besonders pikant: Die Reconnaissance haben die Forscher selbst größtenteils per KI-Agenten durchgeführt – der dann autonom anfing, die gefundene API-Dokumentation zu testen. Das Ergebnis war eine SQL-Injection über unsanitierte JSON-Keys, mit der man am Ende rund 46,5 Millionen Chatnachrichten, 57.000 Nutzerkonten, die komplette Organisationsstruktur und den gesamten vektorisierten Wissensbestand der Plattform hätte abgreifen können – inklusive fast live mitlesbar, welcher Berater gerade an was arbeitet. McKinsey hat nach Responsible Disclosure innerhalb eines Tages gepatcht, was fair ist. Dass sowas bei einer der einflussreichsten Beratungsfirmen der Welt gebaut werden konnte, bleibt trotzdem schwer zu erklären.
Passend dazu: OpenAI hat Promptfoo akquiriert – ein Framework für LLM Red-Teaming und Pentesting, gerade mal zwei Jahre alt. Das Tool war auf automatisiertes Testen von Prompt Injections, Jailbreaks und Data Leakage ausgelegt und bereits bei über 100.000 Entwicklern und zahlreichen Fortune-500-Unternehmen im Einsatz. Wir ordnen ein, warum wir eher an einen Acquihire glaube als an ein eigenständiges Produkt – und warum AI Application Security trotzdem gerade als eigenständige Marktkategorie entsteht.
Dann schauen wir uns Trumps neue Cyber Strategy for America an – und sind ehrlich überrascht. Das Dokument ist auffällig kurz, aber das ist nicht zwingend ein Kritikpunkt. Sechs strategische Leitlinien, darunter offensive Abschreckung, stärkere Einbindung der Privatwirtschaft gegen Cybercrime-Netzwerke und Regulierungsentlastung. Wir diskutieren, was losgelöst vom Namen auf dem Deckblatt inhaltlich tatsächlich Sinn ergibt und wo berechtigte Skepsis bleibt.
Zum Abschluss: Satya Nadella kündigt Copilot Cowork an – einen vollständigen Workspace-Agenten mit Zugriff auf alle Apps und Dateien innerhalb von M365. Wir fragen uns, wann der erste Pentesting-Report kommt, der das auseinandernimmt und warum das undurchschaubare Microsoft-Lizenz-Ökosystem selbst für erfahrene Security-Leute mittlerweile kaum noch zu überblicken ist.
HOW WE HACKED MCKINSEY'S AI PLATFORM
https://codewall.ai/blog/how-we-hacked-mckinseys-ai-platform
OpenAI to acquire Promptfoo
https://openai.com/index/openai-to-acquire-promptfoo/
Trumps Cyber Strategy for America
https://www.whitehouse.gov/wp-content/uploads/2026/03/president-trumps-cyber-strategy-for-america.pdf
Announcing Copilot Cowork, a new way to complete tasks and get work done in M365.
https://x.com/satyanadella/status/2030992877665583440?s=46
Weitere Episoden von „Breach FM - der Infosec Podcast“
- Digital Sovereignty - Who Really Holds the Power? ft. Andreas Prins 18. November 2026
- Flurfunk - Nvidia-Affäre, Lücken in KI-Coding-Browsern, Binance-Hack & Trezor-Implantat 11. November 2026
- Flurfunk - Fake-IT-Support in Teams, Qwen funkt nach Hause & die Sungrow-Lücke 4. November 2026
- LLM scaling, agent reliability and Europe’s AI stack ft. Daniel Gillblad 28. Oktober 2026
- Flurfunk - Kommunale KI-Attribution auf dem Prüfstand, AdFection, Supermarkt-Kühlung & Chrome-Full-Chain 20. Oktober 2026
- Flurfunk - Yandex-Ausfall und der Bot-Mythos, Qilin-Festnahme & Agent Corruption bei AWS 13. Oktober 2026
- Flurfunk - Muse als Doxing-Maschine, TA419 Phishing & eine zerlegte Flock-Kamera 6. Oktober 2026
- Flurfunk - Google-Maulwurf bei TeamPCP, NetScaler-Zero-Days, Intel-Bounties & Microsoft Titan 29. September 2026
- Flurfunk - Gemini-Ausbruch, BGP-Hijack, ShinyHunters vs. Clop, Dropbox & OpenAI Bugs 22. September 2026
- Flurfunk - Berlin-Update, TeamPCP-Festnahmen, Project Perception & RubyGems 15. September 2026
- Flurfunk - Berlin: Rhysida erpresst & OpenAIs Call for Collective Action 1. September 2026
- Flurfunk - Berlin-Update, Trumps Cyber-Memorandum, Keycloak-Lücke & KI-Agenten gegen Taiwan 25. August 2026
- Flurfunk - Irregular-Postmortem, Trivy-Nachbeben & Cyberangriff auf Berlin 18. August 2026
- Flurfunk - US Wasser Betreiber unter Beschuss & Agents gonna agent 11. August 2026
- Takedowns, internationale Zusammenarbeit & die Zukunft der Strafverfolgung ft. Carsten Meywirth 5. August 2026
Über den Podcast
Breach FM taucht tief in die Welt der Cybersicherheit, digitalen Konflikte und ihrer explosiven geopolitischen Folgen ein. Moderiert von Robert Wortmann und Max Imbiel, nimmt der Podcast aktuelle Bedrohungen, innovative Technologien und clevere Strategien unter die Lupe. Mit hochkarätigen Gästen…
Ähnliche Episoden
- Universelle Katzenstreu-Kristalle – Dad Reviews with @LaneVids (Deutsch)
- TSMC & Samsung stoppen China-Chips: US-Exportregeln 2026 – The State of Tech Die deutsche Ausgabe
- Kann KI Transporte autonom vergeben? Warum Vertrauen zum Engpass wird – mit David Moog von TIMOCOM – LogTech Podcast
- KI Power Podcast: Gute Arbeit, aber keine Kunden? So baust du einen Funnel, der wirklich verkauft mit Rainer von Massenbach – KI Power Update - Der KI Kann Ich Podcast
- Tornado fliegen: Tiefflug, Luftkampf und Einsatz über Syrien – LUFTRAUM
Alle Episoden von Breach FM - der Infosec Podcast · Mehr Technologie-Podcasts