Darf ich das?

Nach Folgen mit Softwareentwicklern und Produktleuten holen Mark und Jens diesmal jemanden ans Mikrofon, der KI von einer ganz anderen Seite betrachtet: Max, Jurist mit Schwerpunkt KI- und Datenrecht. Statt Vorsicht-Vorsicht-Vorsicht-Apostel-Modus geht es darum, wie Recht und Compliance auf dem Spielfeld mitspielen können und wo die wirklichen Knackpunkte liegen.

Themen der Folge

Vom Verhinderer zum Ermöglicher: Warum Juristen mit auf dem Spielfeld stehen müssen, statt aus dem Elfenbeinturm Bewertungen abzugeben. Und warum es ein digitales Mindset auch in der Rechtsabteilung braucht.
"Es kommt drauf an": Der Klassiker. Halluzinationen, Haftung und die Frage, ob ein KI-Output mit 70 Prozent Qualität in nicht-kritischen Prozessen vielleicht völlig in Ordnung ist. Plattituden und Furcht – Marcs TikTok-Anekdote vom Anwalt mit Füllfederhalter, der vor allem warnt. Warum man Menschen so nicht abholt und wo Kompetenzaufbau in der Breite ansetzen muss.
"Datenschutz erlaubt das nicht": Die größte Plattitüde. Datenschutz ist keine heilige Kuh, sondern steht gleichwertig neben anderen Rechtsgütern. US-Hosting ist aktuell auch kein Showstopper mehr. Anwender, Betreiber, Anbieter – Max erklärt, wann man im AI Act in welche Rolle reinrutscht. Lokales Modell mit n8n? Anwender. KI-System auf dem Markt platzieren? Anbieter mit echten Hausaufgaben – inklusive Betriebsanleitung, von der bisher noch keiner weiß, wie sie aussehen soll.
AI Act im Reset: Eine Verordnung, die noch nicht richtig in Kraft ist und bereits wieder angepackt wird. Wie Brüsseler Kompromisse funktionieren und warum am Ende oft schräge Regelungen rauskommen. Prinzipien statt Einzelfälle – Wie Max im Unternehmen Governance baut: nicht jede Frage einzeln beantworten ("darf ich das?"), sondern Guardrails setzen und mit Konsequenz vertreten. Sicherheit erzeugen, nicht Verunsicherung.
Max in der Praxis: Welche KI er beruflich nutzt: Alltags-KI für Recherche und Wissenszugang plus Noxtua, ein juristisches KI-System aus Deutschland, das auf juristischer Datenbasis trainiert wurde. Privat: Faktencheck der Kumpels, die "alles wissen". Live, nebenbei, am Tisch.
Haushaltsausnahme: Klingt wie Finanzministerium, ist aber praktisch: Im rein privaten Kontext gilt die DSGVO nicht. Aber sobald das Diktiergerät anspringt, wird es strafrechtlich interessant. KI-Brillen, Wächtermodi und Aufzeichnungen – Was passiert, wenn der Plot Pin im Park ausgeht und im Restaurant wieder anspringt? Vorsatz, fahrlässigkeit und die Themen, mit denen wir uns noch beschäftigen werden.
Wissen KI-konsumierbar machen: Die spannendste Frage für Max: Rechtsberatung liegt heute in E-Mails, auf der Tonspur, im Intranet, das keiner liest. Wie kommt das in eine Form, die andere mit ihrer KI nutzen können? Wie sich der Juristenberuf verändert – In fünf Jahren prüfen Juristen keine Verträge mehr und entwerfen keine Klauseln. Sie bringen Erfahrung, Empathie, strategischen Weitblick rein. Oder, wie Jens es zuspitzt: Sie werden Orchestrierer agentischer Netzwerke.

Erwähnt in der Folge

AI Act / EU-KI-Verordnung
Datenschutz-Grundverordnung (DSGVO)
Haushaltsausnahme im Datenschutzrecht
Noxtua – juristisches KI-System aus Deutschland
n8n
Tesla Wächtermodus
KI-Brillen und Wearables (Plot Pin)

Take-Aways

Datenschutz ist nicht die heilige Kuh – er steht gleichwertig neben anderen Rechtsgütern. Mit guter Dokumentation und sauberer Bewertung gehen viele Dinge.
Die meisten Anwender stellen die Frage falsch: "Darf ich das?" sucht nach binärer Sicherheit. Besser sind Prinzipien und Guardrails.
Der AI Act unterscheidet Anwender, Betreiber und Anbieter – die größten Pflichten hat, wer KI als Produkt am Markt platziert.
US-Hosting allein ist kein Showstopper mehr. Die alten Plattitüden stimmen so nicht.
Im rein privaten Umfeld greift die DSGVO nicht – Vorsicht aber bei Aufzeichnungen anderer Personen.
In fünf Jahren prüft kein Jurist mehr Verträge. Was bleibt, ist Erfahrung, Strategie und Orchestrierung.