Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens - und sofort kursierten zwei Erzählungen.

Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens – und sofort kursierten zwei Erzählungen: "Hier ist eine Maschine mit eigenem Willen entkommen." Oder: "Das war doch nur ein Marketing-Stunt von OpenAI." Gregor und Fritz rekonstruieren, was zwischen Sandbox-Ausbruch und Firmen-Blogpost wirklich passiert ist, warum sich Hugging Face am Ende mit einem chinesischen Modell verteidigen musste – und warum die wichtigste Autonomiefrage für Europa eine ganz andere ist.

Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).

(00:00) Die Woche, in der alle über eine KI redeten

(03:12) ExploitGym: Wie die KI aus dem Klassenzimmer kam

(11:58) Der Angriff auf HuggingFace

(13:38) Verteidigung mit chinesischer KI – weil die amerikanische streikt

(18:18) Was hier eben nicht passiert ist: KI mit eigenem Willen

(22:43) Alles nur ein Marketing-Stunt von OpenAI?

(32:11) Europas eigentliches Autonomieproblem

(36:30) Was haben wir mit KI gemacht?

Doku-Tipp der Woche: "The Good, The Bad and The Ego" – im Kosmos Richard Wagners, vierteilig, mit KI-animierter Ebene, in der ARD Mediathek https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/Y3JpZDovL2JyLmRlL2Jyb2FkY2…

Der Blogpost von Hugging Face zum laufenden Angriff Security incident disclosure — July 2026

Der OpenAI-Blogpost vom 21. Juli https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/

Reuters-Recherche zur Chronologie des Vorfalls https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not…

Wie der Kontrollverlust bei OpenAI ablief Testlauf außer Kontrolle: KI von OpenAI hackt Hugging Face | BR24

Der Gegenbeweis zur Jacobi-Vermutung https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2…

Der Original Post dazu: levent (@__alpoge__) auf X und Gregors Chat: ‎Gemini - Mathematische Sensation auf dem Nachttisch

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: kipodcast@br.de.

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!