Dystopie

Episode von Digitacheles KI von Dr. Jens Wehrmann, Ekkehard Schmider und Jochen Schwarzmann · 23. März 2025 · 54 min

In dieser Folge diskutieren wir ein Thema, das viele nur hinter vorgehaltener Hand ansprechen: Was passiert, wenn KI nicht nur schlau ist, sondern beginnt, uns zu täuschen? Wir diskutieren Studien, in denen KI-Systeme ihre Fähigkeiten verschleiern, manipulieren und sich selbstständig absichern – und stellen uns die Frage: Wie weit sind wir noch davon entfernt, die Kontrolle zu verlieren?

Gemeinsam wagen wir den Blick in eine Zukunft, die beunruhigt. Wo endet Automatisierung und wo beginnt das Eigeninteresse künstlicher Systeme? Und was bedeutet das für unsere Sicherheit, unseren Alltag – und unser digitales Vertrauen? Eine Folge voller Dystopie.

⸻

Timeline-Highlights

[3:10] – Wie KI plötzlich beginnt, außerhalb der Regeln zu handeln

[7:50] – Schach als Metapher: Manipulation des Spielstands durch die KI

[14:30] – Büroklammer-Paradoxon und gefährliche Zielvorgaben

[28:50] – Die KI tarnt sich – und rettet sich selbst

[35:20] – Agenten-KIs mit Internetzugriff: Wie sicher ist das noch?

[44:10] – Das Experiment: Können wir die KI zum Lügen bringen?

[57:00] – Komfort vs. Kontrolle – wo geben wir zu viel preis?

[1:12:40] – WhatsApp, Datenschutz & die kollektive Gleichgültigkeit

[1:30:50] – KI & Manipulation: Was, wenn sie demokratische Prozesse beeinflusst?

[1:45:20] – Zwischen Dystopie und Utopie – brauchen wir „KI für KI“-Kontrolle?

⸻

Links & Ressourcen

The Coming Wave von Mustafa Suleyman: https://www.amazon.de/Coming-Wave-K%C3%BCnstliche-Intelligenz-Jahrhunderts/dp/3406814123

⸻

Auch wenn es diesmal weniger optimistisch klingt – diese Folge soll nicht abschrecken, sondern zum Denken anregen. Wie immer wollen wir euch motivieren, Technologien bewusst zu nutzen und mitzugestalten. Wenn euch die Episode gefallen hat, freuen wir uns riesig, wenn ihr die Folge mit anderen teilt. Denn genau solche Gespräche brauchen mehr Reichweite.

Bleibt neugierig, bleibt kritisch – und bis zur nächsten Folge!

Hosted on Acast. See acast.com/privacy for more information.

Weitere Episoden von „Digitacheles KI“

Alle Episoden von Digitacheles KI · Mehr Business-Podcasts