#103: EU AI Act: Risikostufen, Pflichten und Watermarking mit SynthID

Episode von Data Science Deep Dive von INWT Statistics GmbH · 24. September 2026 · 47 min

In dieser Folge sprechen wir über den EU AI Act: was er unter einem KI-System versteht, welche Risikostufen er unterscheidet und welche Regeln bereits gelten. Wir gehen auf die kurzfristigen Änderungen durch den EU AI Omnibus ein, unter anderem die verschobenen Fristen für Hochrisiko-Systeme. Außerdem erklären wir, welche Pflichten für Anbieter von General-Purpose-AI-Modellen gelten und welche Rolle der Code of Practice dabei spielt. Im Deep Dive zur Transparenzpflicht geht es darum, wie sich KI-generierte Inhalte kennzeichnen lassen und wie Text-Watermarking mit SynthID technisch funktioniert. Zum Schluss ordnen wir ein, was die Regulierung für Data-Science-Projekte in der Praxis bedeutet.

**Zusammenfassung**

Stand der Umsetzung: Verbotene Praktiken und die Pflicht zur KI-Kompetenz gelten seit dem 2.2.2025, die Transparenzpflichten seit dem 2.8.2026.

EU AI Omnibus: Die Fristen für Hochrisiko-Systeme wurden auf den 2.12.2026 (Stand-alone) bzw. 2.12.2027 (eingebettet) verschoben, zudem kam ein Verbot nicht einvernehmlicher sexualisierter Deepfakes hinzu.

Definition von KI: Der AI Act beschreibt KI-Systeme als maschinengestützte Systeme mit unterschiedlichem Autonomiegrad, die aus Eingaben ableiten, wie sie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen.

Risikostufen: Unterschieden werden verbotene Praktiken (z. B. Manipulation, Social Scoring), Hochrisiko-Anwendungen (z. B. kritische Infrastruktur, Gesundheit, Bildung, Justiz) und die Restkategorie mit geringem Risiko.

General-Purpose-AI: Große Foundation-Modelle unterliegen Dokumentations- und Informationspflichten, etwa zu Trainingsdaten und Urheberrecht; ab 10^25 FLOPs Trainingsaufwand wird ein systemisches Risiko vermutet.

Code of Practice: Anbieter*innen können Compliance über den Code of Practice mit den Kapiteln Transparenz, Urheberrecht sowie Sicherheit und Gefahrenabwehr nachweisen.

Kennzeichnung von KI-Inhalten: Bilder, Videos und Audio lassen sich per Wasserzeichen oder Metadaten (C2PA) markieren, Texte über eine subtile Beeinflussung der Token-Auswahl wie bei SynthID – beide Ansätze haben aber klare Grenzen bei Erkennung und Manipulationssicherheit.

Bedeutung für die Praxis: Wichtig sind die Risikoeinordnung eines Projekts, eingebaute Transparenzmechanismen etwa bei Chatbots und dokumentierte Maßnahmen zur KI-Kompetenz – vieles davon entspricht ohnehin guter Praxis.

**Links**

Verordnung (EU) 2024/1689 (AI Act) auf EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Bundesnetzagentur – KI-Verordnung, Zeitplan und Überblick (deutsch): https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/1_Ziel/start_ziel.html

EU-Kommission – Safer and more transparent AI (2.8.2026): https://commission.europa.eu/news-and-media/news/safer-and-more-transparent-ai-2026-08-02_en

Rat der EU – Final green light für den AI Omnibus: https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/

technology.org – What actually applies on 2 August 2026: https://www.technology.org/2026/07/17/eu-ai-act-what-actually-applies-on-2-august-2026/

Nature-Paper zu SynthID-Text: https://www.nature.com/articles/s41586-024-08025-4

Google DeepMind – Watermarking mit SynthID: https://deepmind.google/blog/watermarking-ai-generated-text-and-video-with-synthid/

C2PA – Standard für Herkunftsnachweise von Inhalten: https://c2pa.org/

Lust auf einen Schnack bei der goto; Konferenz in Kopenhagen?

Sebastian auf LinkedIn: https://www.linkedin.com/in/sebastianwarnholz

goto; Konferenz in Kopenhagen: https://gotocph.com/2026

📬 Fragen, Feedback oder Themenwünsche?

Schreibt uns gern an: [email protected]

Weitere Episoden von „Data Science Deep Dive“

Alle Episoden von Data Science Deep Dive · Mehr Technologie-Podcasts