Kollektive Handlungsprobleme, Hyperagenten und KI-Entwicklung als Metaevolution (mit Peter Kuhn)

Episode von Therapie auf den Punkt von Henning Lütje · 19. März 2026 · 3 h 21 min

Die Welt ist voll von Systemen, die niemand so designen würde, die aber jeder beteiligte Akteur durch sein eigenes Handeln herbeiführt: Überfischung, kapitalistische Ausbeutung, Wettrüsten und Krebs. All dies sind Beispiele für das, was man in der Spieltheorie als kollektive Handlungsprobleme bezeichnet.

Wie entstehen diese Handlungsprobleme? Wie lassen sie sich regulieren? Was bedeutet dies für politische Utopien? Und welche Konsequenzen ergeben sich für die KI-Forschung?

Im zweiten Teil der Episode diskutiere ich mit Peter Kuhn seinen spekulativen Begriff von Hyperagenten wie Unternehmen oder Staaten, die echte Agency haben sollen und deren Absichten nicht auf die Absichten der konstituierenden Menschen reduzibel sein sollen. Außerdem fragen wir uns, ob KI-Forschung als metaevolutionärer Phasenübergang verstanden werden kann.

________________________________

Quellen:

Alexander, Scott (2014, July 30). Meditations on Moloch. Slate Star Codex.

https://slatestarcodex.com/2014/07/30/meditations-on-moloch/

Bakan, Joel (2004). The corporation: The pathological pursuit of profit and power. Penguin Canada.

http://commons.allard.ubc.ca/books/4

Bostrom, Nick (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.

Kuhn, Peter (2025). Humanism – An obituary. Substack.

https://substack.com/home/post/p-171043982

Yudkowsky, E., & Soares, N. (2025). If anyone builds it, everyone dies: Why superhuman AI would kill us all. Little, Brown and Company.

________________________________

Inhalt:

0:00 Meditations on Moloch

1:28:13 Hyperagenten

2:18:41 Metaevolution

Weitere Episoden von „Therapie auf den Punkt“

Alle Episoden von Therapie auf den Punkt · Mehr Health Fitness-Podcasts