#59 Wenn KI Modelle hacken, was als sicher galt

Episode von Reboot Society - KI, Diversität und die neue Weltordnung von Inken Paland und Sarah Rojewski · 31. August 2026 · 36 min

Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet.

🔎 Begriff im Fokus:

OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf.

OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen.

🔗 Literatur & Studien:

Paper zu Shieldstral von Mistral: https://arxiv.org/abs/2607.25857

Link zum Buch “the Alignment Problem von Brian Christian: https://www.hugendubel.de/de/taschenbuch/brian_christian-the_alignment_problem-40398595-produkt-details.html?utm_source=google&utm_medium=cpc&utm_campaign=20795765403&adCode=320R20I20U31M&utm_term=&gad_source=1&gad_campaignid=20795766201&gbraid=0AAAAADi36RBldPwW8V6QI9TVozADobvwn&gclid=CjwKCAjwqc_UBhBKEiwAWbl25sxnnFzW9wMjEFa5J97Q_n1LNV4ThwIAp032yeBgArIMVhoK1l0HkBoCm2YQAvD_BwE

🔗 Links:

Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: https://open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH

Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):https://www.heise.de/news/Bericht-Nvidia-uebernimmt-Hugging-Face-fuer-12-9-Milliarden-Dollar-11431261.html

Second Brain Guide von Inken: https://vely.ai/second-brain-guide

Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :)

📲 Media-Kanäle:

🔗 Sarah’s Instagram: @sarah_rojewski 🔗

Inken’s Instagram: @askinkenai

Weitere Episoden von „Reboot Society - KI, Diversität und die neue Weltordnung“

• # 61 KI hat auf unterschiedlichen Sprachen, unterschiedliche Werte. Aber warum? 14. September 2026
• #60 Das gehypte selbstfahrende Robotaxi Waymo kommt nach München und auch die Konkurrenz schläft nicht 7. September 2026
• #58 Reguliert Europa die KI zu Tode? Ein ehrlicher Blick auf den EU AI Act 27. Juli 2026
• #57 Warum Europas Startups im KI-Rennen nicht so chancenlos sind, wie alle denken. Interview mit Diana Nanova 20. Juli 2026
• #56 Lokale KI, die stille Revolution beginnt auf deinem Rechner 12. Juli 2026
• #54 Real Talk: Hinter den Kulissen der Google IO in San Francisco & Berlin 5. Juli 2026
• #55 Bonusfolge: From Assistents to KI-Agenten: That’s how Google is changing our workplace and eliminates “busy work” | Interview with Yulie Kwon Kim 5. Juli 2026
• #53 Generation AI, Vertrauen und die Gefahr des eleganten Kontrollverlusts mit Florian Dohmann 28. Juni 2026
• #52 Was uns das Abschalten von Fabel 5 über Europas Zukunftschancen im Wettkampf um Compute zeigt 21. Juni 2026
• #51 Die KI-Pause, die keine ist, und der Fortschritt, der nicht auf die nächste App wartet 14. Juni 2026
• #50 Das wertvollste KI-Unternehmen der Welt möchte dein Geld. Alles, was hinter der Einleitung des Börsengangs von Anthropic steckt. 7. Juni 2026
• #49 Behind the Scenes eines AI Evangelisten bei Adobe - Interview mit Julian Kramer 1. Juni 2026
• #48 Wem gehört die Zukunft? Warum wir KI-Giganten jetzt die Stirn bieten müssen. 25. Mai 2026
• #47 Tools don’t create. People do. Insights vom Adobe Summit 2026 18. Mai 2026
• #46 The race with no finish line: Promise or peril? 10. Mai 2026

Alle Episoden von Reboot Society - KI, Diversität und die neue Weltordnung · Mehr Technologie-Podcasts