Folge 30 - AI Agents of Chaos - KI & Wir - Rock the Prototype Podcast

Episode von Rock the Prototype - Softwareentwicklung & Prototyping von Sascha Block - Rock the Prototype · 15. Juli 2026 · 32 min

### 🚀 AI Agents of Chaos – KI & Wir
: KI-Agenten: Wie viel Autonomie verträgt Künstliche Intelligenz?

KI-Agenten sind weit mehr als Chatfenster mit netter Oberfläche. Sie planen, erinnern sich, nutzen Werkzeuge und greifen in Abläufe ein. Aus KI-Werkzeugen werden KI-Systeme mit autonomem Handlungsspielraum. Genau dort beginnt die spannende Frage: Wer behält die Kontrolle über KI?

🎧 In dieser Podcast Folge widmen wir uns KI Agenten - Klar. Verständlich. Mit Blick auf Technik, Verantwortung und dem verantwortungsbewussten Betrieb von KI-Systemen.

Du erfährst...

✅ was ein KI-Agent wirklich ist

✅ warum KI-Agenten nicht alle gleich sind

✅ welche Funktionen KI-Agenten heute schon beherrschen

✅ warum Trainingsdaten, Modelle, Kontext und Werkzeuge ihr Verhalten prägen

✅ weshalb Autonomie ohne Leitplanken schnell zum Risiko wird

✅ wie Governance, Compliance und menschliche Aufsicht zusammengehören

**🎧 Kapitelmarken – Rock the Prototype Podcast #30 AI Agents of Chaos - KI & Wir**

00:01:26 - Rock the Prototype Song - https://rock-the-prototype.com/

00:03:30 – Vom KI-Modell zum autonomen Akteur

00:06:03 – Klassifikation und Arten von KI-Agenten - Nicht alle KI-Agenten sind gleich

00:06:33 – Warum präzise Anforderungen für KI Agents zählen

00:07:17 – Technik, Betrieb und Steuerung von KI Agenten

00:07:49 - Ethische Leitplanken, Compliance und Governance für den Produktivbetrieb von AI Agenten

00:08:09 – Fünf Leitfragen für KI Agentenfunktionen - Autonomie, Infrastruktur, Chancen und Risiken von KI Agenten

00:08:56 – Was ist ein KI-Agent? - Definition KI-Agent

00:09:44 - Wie AI Agenten wahrnehmen, bewerten, entscheiden, handeln, algorithmische Iteration

00:10:06 – 3 Statements aus wissenschaftlicher Perspektive zu KI Agenten

00:10:15 – Russell und Norvig: Artificial Intelligence: A Modern Approach

00:11:13 - Franklin und Graesser: KI ist mehr als nur Programmcode - autonome Agenten die auf ihre Umwelt reagieren

00:11:44 - Wooldridge: Autonomie von KI und Multi-Agenten-Systeme

00:12:56 – KI-Systeme im EU AI Act - Rechtliche Leitplanken

00:13:29 – Eine präzise Definition für KI-Agenten

00:13:55 – Risikobasierter Ansatz und menschliche Aufsicht - Hochrisiko-KI, Nutzungskontext und Risikoklassen für Künstliche Intelligenz

00:14:15 – Human in the Loop - KI & Wir - Wir als Menschen bleiben für Künstliche Intelligenz in der Verantwortung

00:14:41 – Bundesnetzagentur, Aufsicht und KI-Marktüberwachung

00:16:30 – Welche Funktionen beherrschen KI-Agenten?

00:17:06 – KI erkennt Muster in Daten und kann Informationen klassifizieren

00:17:40 – Zielausrichtung durch KI Modell, Kontext und Werkzeuge

00:18:15 – Foundation Models, KI Tools, KI-Modellle und Grenzen ihre Grenzen

00:18:42 – Validierung, Qualitätssicherung und KI-Limitationen

00:19:11 – Chunking - Aufgaben zerlegen und Schritte wählen

00:19:42 - Künstliche Intelligenz und ihr Verhalten im Zeitverlauf anpassen

00:20:20 - Sandboxes und kontrollierte Betriebsumgebungen begrenzen Wirkung von KI Systemen

00:20:43 - Mittelbare KI-Umgebungen

00:21:15 – Physische KI-Umgebungen und reale Folgen

00:22:07 – Wie viel Autonomie verträgt ein KI-Agent?

00:22:37 – Stufenmodell für KI-Agenten

00:24:01 – Volle Autonomie von KI ist kein Ideal an sich

00:25:02 – Wie machen wir KI-Agenten beherrschbar?

00:25:10 – Hebel 1 bis 3: Modell, Architektur und Laufzeit

00:26:02 – Authentisierung, Logging und Freigaben

00:26:26 – Kill-Switch, Rollen und kontinuierliche Prüfung

00:27:42 – Compliance, Large-Scale Agile und Verantwortung

00:28:18 - Empfehlungen und weiterführende Inhalte

🍪 [Cookies, Session & Token - Token Flow in 10min verstehen] 👉 (https://youtu.be/HNcQi55rqNo)

Besuche unsere **Website** 👉 [https://rock-the-prototype.com](https://rock-the-prototype.com)

Abonniere 📺 **https://youtube.com/@Rock-the-Prototype**

Weitere Episoden von „Rock the Prototype - Softwareentwicklung & Prototyping“

Alle Episoden von Rock the Prototype - Softwareentwicklung & Prototyping · Mehr Wissenschaft-Podcasts