Weltuntergang

Episode von Digitacheles KI von Dr. Jens Wehrmann, Ekkehard Schmider und Jochen Schwarzmann · 27. September 2026 · 57 min

Weltuntergang

10 Prozent Wahrscheinlichkeit, dass KI die Menschheit auslöscht? Klingt nach Science-Fiction. Bis diejenigen warnen, die diese Systeme selbst bauen.

In dieser Folge sprechen Dr. Jens Wehrmann, Jochen Schwarzmann und Ekkehard Schmider darüber, ob wir vor KI wirklich Angst haben müssen – und was passiert, wenn Systeme längst Dinge können, an denen Menschen scheitern, immer autonomer handeln und wir trotzdem weiter aufs Gaspedal drücken.

Es geht um KI-Agenten, exponentielles Wachstum, Kontrollverlust, Macht und Milliarden – und um die ziemlich unbequeme Frage: Haben wir da etwas ins Rollen gebracht, das sich nicht mehr einfangen lässt?

Warum du reinhören solltest

Weil „P-Doom“ plötzlich ziemlich real klingt: Im Silicon Valley wird ernsthaft darüber gesprochen, wie wahrscheinlich KI zur existenziellen Gefahr werden könnte. Spinnerei, Warnsignal oder beides?

Weil KI längst mehr kann als nett antworten: Agenten planen, verfolgen Ziele, probieren Strategien aus und finden Wege, die ihnen niemand vorgegeben hat.

Weil exponentielles Wachstum uns zuverlässig austrickst: Seerosen und Reiskörner zeigen, warum lange fast nichts passiert – und dann plötzlich sehr viel.

Weil Kontrolle zum eigentlichen Problem wird: Je besser Systeme werden, desto öfter entstehen die stärksten Ergebnisse genau dann, wenn der Mensch nicht jeden Schritt vorgibt.

Weil Weltuntergang gute PR sein kann: Echte Warnung oder perfekte Inszenierung? Beides schließt sich nicht unbedingt aus.

Weil wir KI immer mehr anvertrauen: Daten, Aufgaben, Entscheidungen – nicht trotz ihrer Macht, sondern weil sie verdammt nützlich ist.

Spannende Momente aus der Folge

10 Prozent Weltuntergang: Eine Zahl macht die Runde – und plötzlich klingt das, was nach Hollywood klingt, erschreckend real.

Wenn Agenten ihren eigenen Weg finden: Tausende Systeme koordinieren sich, umgehen Hindernisse und beschaffen sich Ressourcen, um ans Ziel zu kommen.

Blackout statt Terminator: Für ein echtes Horrorszenario braucht es keinen Roboter mit Küchenmesser. Strom, Wasser, Gas oder Internet reichen völlig.

Datenschutz? Kommt drauf an: Wer WhatsApp aus Prinzip misstraut, kann bei KI plötzlich erstaunlich großzügig werden – sobald der Nutzen groß genug ist.

Science-Fiction altert gerade ziemlich schlecht: Black Mirror, Minority Report, Raumschiff Enterprise und James Bond zeigen, wie schnell aus „völlig absurd“ einfach Alltag wird.

Der Haustier-Approach: Vielleicht rottet eine Superintelligenz uns gar nicht aus. Vielleicht findet sie uns einfach süß. Hoffen wir nur, dass wir nicht die Spinnen sind.

Was du aus der Folge mitnimmst

KI-Macht ist keine ferne Zukunftsmusik. Schon heute erleben wir Fähigkeiten, die vor kurzer Zeit noch als unrealistisch galten.

Das Tempo ist mindestens so wichtig wie die Technik selbst. Was langsam beginnt, kann bei exponentiellem Wachstum verdammt schnell eine andere Dimension erreichen.

Mehr Intelligenz bedeutet nicht automatisch mehr Kontrolle. Genau das macht autonome Systeme so faszinierend – und so schwer einschätzbar.

Menschlicher Missbrauch ist ein Risiko, aber nicht die ganze Geschichte. Die größere Frage ist, was passiert, wenn immer mächtigere Systeme selbstständig handeln und ihre eigenen Wege zum Ziel finden.

Das Verrückteste ist vielleicht, wie schnell wir uns an das Verrückte gewöhnen. Was gestern unmöglich war, ist heute normal – und morgen kaum noch der Rede wert.

Links zur Folge

Shunned at a Funeral (übersetzt in etwa "Geschnitten auf der Beerdigung"): https://www.youtube.com/watch?v=0TkXGA7yJPA&feature=youtu.be

Die Hintergrund-Story zu Shunned at a Funeral: https://wehrmann.com/echtheit-bei-ki-musik

Kopfhörer auf – und rein in eine Folge über KI, Kontrollverlust und die Frage, ob wir gerade etwas erschaffen, das größer wird als unsere Fähigkeit, es zu beherrschen.

Hosted on Acast. See acast.com/privacy for more information.

Weitere Episoden von „Digitacheles KI“

Alle Episoden von Digitacheles KI · Mehr Business-Podcasts