KI-Sicherheit: Warum Forscher gehen und wer die Entwicklung stoppen kann
Episode von KI Espresso von KI Espresso · 6. Oktober 2026 · 9 min
David Robinson hat OpenAI verlassen. Sein Ausstieg wirft die Frage auf, wer gefährliche KI-Entwicklung tatsächlich stoppen kann. Marc erklärt konkrete Kontrollfehler und neue Sicherheitszusagen; Irene prüft, was davon im Wettbewerb zwischen den USA, Europa und China durchsetzbar ist.
Wir unterscheiden persönliche Aussagen, Berichte der Entwickler und externe Untersuchungen. Risikozahlen sind subjektive Einschätzungen mit einem benannten Zeithorizont. Irenes Kritik am europäischen Wirtschaftsmodell ist ihre politische Wertung; eine Ursache für Mistrals Testergebnisse ist damit nicht bewiesen.
Welche Nachweise müsste ein KI-Labor vorlegen, bevor es nach einem Sicherheitsvorfall weitertrainieren darf? Nennt das für euch wichtigste Kriterium und begründet eure Wahl.
Quellen
David Robinson: I Quit OpenAI Because Its Culture Is Broken
WIRED interview with Jacob Coxon
Axios interview: Coxon equity
Mrinank Sharma: Why I Left Anthropic
OpenAI: Hugging Face incident and the road ahead
METR/Redwood independent Hugging Face investigation
Hugging Face: July security incident disclosure
OpenAI: An agent used DNS to reach an external chatbot
Anthropic: July disclosure of three cyber-evaluation incidents
Anthropic: September alignment assessment of four incidents
Dario Amodei: We Must Pace the Frontier
White House Accord on Super Intelligence
OpenAI: Towards safety cases for frontier AI training
CAIS: Statement on AI Extinction Risk
ESPAI 2023: Thousands of AI Authors on the Future of AI
CAC: Interim measures for generative AI services
UK: Bletchley Declaration participation
UK: Seoul frontier safety commitments
Mistral: Medium 3.5 and Vibe remote agents
Mistral legal notice
AISI: Unsanctioned agent behaviour during cyber testing
Anthropic: Accenture embedded evaluation partnership
METR current public updates/index
Artificial Analysis: Medium 3.5 versus GPT-5.5 High
Artificial Analysis: Medium 3.5 versus Tencent Hy3
ECB: AI and the euro area economy
Weitere Episoden von „KI Espresso“
- Claude schreibt Code. Was lernen Ingenieure in der Academy? 5. Oktober 2026
- Gemini 4 Argon: Leistung, Werkzeuge und Zugang erklärt 1. Oktober 2026
- America.gov: Wann ist eine KI-Antwort amtlich? 1. Oktober 2026
- KI-Zusammenfassung ohne Unfall: Wer bemerkt, was fehlt? 30. September 2026
- Wenn KI mehr Diagnosen findet: Wer zahlt die Rechnung? 30. September 2026
- KI-Chat: Probe fürs Gespräch oder Grund, es zu verschieben? 28. September 2026
- Claude findet Enzymsystem: Entdeckung oder nur Spur? 25. September 2026
- Microsoft lagert Roboter-KI aus: Wer stoppt bei Funkloch? 24. September 2026
- Alibaba baut alles selbst: Wo ist der Ausgang? 23. September 2026
- ChatGPTs Werbe-Agent: Wer berät dich wirklich? 22. September 2026
- Anthropic vs. Meta: Wer bestimmt das KI-Tempo? 21. September 2026
- KI-Agent beim Datenangriff: Darf die Abwehr selbst handeln? 18. September 2026
- DeepL spricht mit deiner Stimme: Wer prüft die Zusage? 17. September 2026
- ChatGPT für Banker: Wer prüft die Zahl? 16. September 2026
- 12,93 Mrd. für Hugging Face – wer steuert Open Source? 15. September 2026