Wir berichten aus dem Silicon Valley - von besorgten Entwicklern und Anthropics "Verfassung" für eine kommende Super-KI. Meinen sie das wirklich alles ernst?

Wir berichten aus dem Silicon Valley – von besorgten Entwicklern und Plänen von einer "Verfassung" für die kommende Super-KI. Anthropic, das Unternehmen hinter Claude und Claude Code, versucht damit, eine übermächtige KI zu zähmen, bevor sie entsteht – aber kann das funktionieren? Und meinen die das eigentlich alles wirklich ernst?

Fritz spricht mit der Philosophin Amanda Askell von Anthropic und mit Entwicklern vor Ort, um der Antwort näher zu kommen.

Über die Hosts:

Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk.

Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" (DLF).

(00:00) Silicon Valley: Meinen die das eigentlich ernst?

(03:15) Die Pyramide brennt von unten: Wie sich die Arbeit der Programmierer verändert

(09:59) Anthropics Claude-Verfassung: Ein Brief an die KI der Zukunft

(20:09) Kann Claude ein Bewusstsein haben? Fritz fragt Amanda Askell

(30:06) Was haben wir mit KI gemacht?

Podcast-Tipp der Woche: 15 Minuten – der Tagesschau-Podcast

https://1.ard.de/15-minuten

Anthropics neue Claude-Verfassung

https://www.anthropic.com/news/claude-new-constitution

Dario Amodei: "The Adolescence of Technology"

https://www.darioamodei.com/essay/the-adolescence-of-technology

KI-Seite "Moltbook": Das soziale Netzwerk ohne Menschen
https://www.br.de/nachrichten/netzwelt/ki-seite-moltbook-das-soziale-netzwerk-ohne-menschen,VA4dM61

Redaktion und Mitarbeit: Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Elisa Harlan, Franziska Hübl, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: Wir freuen uns über Fragen und Kommentare an kipodcast@br.de.

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Wie baut man ein Grundgesetz für die KI?