KI-Sicherheitsexpertin: „Es muss erst einen Knall geben"

Episode von Mensch, Maschine, Mindshift - KI Podcast für die neue Welt von neulandpro · 29. September 2026 · 55 min

🎟️ Du willst Inken Paland live erleben und die wichtigsten Tipps für einen sicheren Umgang mit KI mitnehmen? Dann komm zur Neulandpro Connect am 16. & 17. Oktober 2026 in Berlin. 50 Speaker und das beste KI-Netzwerk im DACH-Raum 👉 Tickets: https://connect.neulandpro.com/

Wie gefährlich ist KI wirklich – und was davon betrifft dich schon heute? KI-Sicherheitsexpertin Inken Paland erklärt, warum sie nach einer Phase der Panik heute ruhiger ist und warum sie trotzdem glaubt, dass es erst einen „Knall" geben muss, bevor die großen KI-Labs bremsen. Wir sprechen über Alignment, AGI und das KI-Wettrennen zwischen den USA und China, über den EU AI Act und über die Gefahren, die schon heute real sind: offene Modelle ohne Guardrails und KI-gestützte Cyberangriffe auf Unternehmen. Dazu gibt Inken konkrete Tipps, wie Unternehmen und Einzelpersonen KI sicher nutzen, vom hybriden Ansatz mit lokaler KI bis zur Frage, wie wir mündig bleiben, statt uns schleichend zu entmachten.

🔗 Erwähnt in der FolgeNeulandpro Connect: https://connect.neulandpro.com/

KI-Risiken im Überblick: https://kibeunruhigtmich.de/

Inkens digitaler Garten (Ressourcen & Sicherheitschecklisten): https://vely.ai/

Lokale KI-Tools: Ollama, LM Studio, Jan AI

👤 Inken Parland

Instagram: https://www.instagram.com/askinkenai/

LinkedIn: https://www.linkedin.com/in/inken-paland/

⏱️ Zeitstempel

00:00 Intro

01:17 Was macht dich bei der KI-Entwicklung am nervösesten?

03:12 Kündigungen in den KI-Labs & der Hugging-Face-Vorfall

04:43 Gefangen in der San-Francisco-Bubble

06:41 „Wie bringt KI uns eigentlich um?"

07:41 10 % Aussterberisiko? Die realere Gefahr

09:27 Offene Modelle ohne Guardrails

11:32 Die Stufen der KI: von Chatbot bis Superintelligenz

14:31 Neulandpro Connect – 16. & 17. Oktober in Berlin

15:36 Alignment: Warum es so schwer ist

18:17 Warum AGI nicht das Ziel sein sollte

20:07 Die Grenzen der Transformer-Modelle

22:17 Wirtschaft, Trump & das KI-Wettrennen

23:09 Muss es erst einen Knall geben?

24:05 Die fehlende Perspektive von China

25:41 Braucht Forschung überhaupt AGI?

27:46 EU AI Act: der richtige Weg?

30:25 „Wer langsam ist, verliert" – was denn?

32:49 Unternehmenssicherheit: Cyberangriffe mit KI

35:23 Lokale KI & der hybride Ansatz

39:10 So überzeugst du deinen Chef, in Cybersecurity zu investieren

41:02 Ist lokale KI automatisch sicher?

43:49 Mitarbeitende schulen & sichere Schnittstellen

46:05 Schleichende Entmachtung durch KI

48:46 Tipps für den sicheren KI-Alltag

52:26 Inkens Keynote auf der Neulandpro Connect

54:17 Wo du Inken findest

Weitere Episoden von „Mensch, Maschine, Mindshift - KI Podcast für die neue Welt“

Alle Episoden von Mensch, Maschine, Mindshift - KI Podcast für die neue Welt · Mehr Technologie-Podcasts