Die KI gehorcht – und genau das ist das Problem

Episode von Kunst und KI von Kunst und KI · 19. April 2026 · 12 min

Ein einziger Kommentar reicht, um künstliche Intelligenz zu übernehmen. Das ist keine Panne. Das ist Teil des Designs:

Stellen Sie sich vor, Sie stellen eine neue Mitarbeiterin ein. Sie ist hochqualifiziert, arbeitet rund um die Uhr, vergisst nie etwas und beschwert sich nicht. Den Schlüsselbund fürs Firmengebäude bekommt sie gleich am ersten Tag. Zugang zum Tresor auch. Nur eine kleine Eigenart hat sie: Sie macht buchstäblich alles, was man ihr sagt. Jeder Zettel, der irgendwo klebt, ist für sie eine Anweisung. Jede E-Mail, die reinkommt, könnte ein Auftrag vom Chef sein – oder eben nicht, sie prüft das nicht nach.

Wie lange würde Ihre Firma so funktionieren?

Ungefähr so sieht gerade die Lage im Maschinenraum vieler Unternehmen aus, die auf KI-Agenten setzen. Am 15. April 2026 hat der Sicherheitsforscher Aonan Guan zusammen mit einem Team der Johns Hopkins University vorgeführt, was passiert, wenn jemand diesen willigen Mitarbeitern die falschen Zettel hinlegt. Das Ergebnis ist unangenehm genug, dass drei der größten Tech-Konzerne – Anthropic, Google und Microsoft – die Sache lieber leise patchen wollten, statt öffentlich darüber zu reden...

https://kunstundki.de/2026/04/19/die-ki-gehorcht-und-genau-das-ist-das-problem/

Weitere Episoden von „Kunst und KI“

Alle Episoden von Kunst und KI · Mehr Gesellschaft-Podcasts