← Sachlich richtig
Loading summary
Transcript52 lines
- [00:01]
A
Sachlich richtig, der Medienpodcast. Mückes, Peske, Welchering sprechen über Meinungsfreiheit, Rundfunkbeitrag Social Media.
- [00:17]
B
Herzlich willkommen zu einer neuen Ausgabe von Sachlich richtig, dem Medienpodcast. Zu Gast heute haben wir Florian Gallwitz. Florian Gallwitz ist Professor der Medieninformatik an der Technischen Hochschule Nürnberg und er tritt auch häufig als Kritiker der Medien auf, nämlich immer dann, wenn die sich beispielsweise mit digitalen Themen beschäftigen, etwa digitaler Forensik oder auch digitalen Recherchemethoden ganz allgemein oder eben auch KI Einsatz im Journalismus. Herzlich willkommen, Herr Prof. Gallwitz.
- [00:44]
A
Schönen guten Tag.
- [00:44]
C
Herr Gallwitz, Sie haben auf Twitter vor reichlich zwei Jahren. Ein Zitat. Hütet euch vor Faktencheckern. Was hat Sie denn dazu veranlasst? Also das wurde ja viel beachtet. Was waren denn Ihre Erfahrungen mit Faktencheckern? Waren die so schlecht?
- [01:00]
A
Ja, das ist eine längere Leidensgeschichte. Also ich hab vielleicht, wenn ich das erste, was mir einfällt, der erste Kontakt, den ich wirklich hatte mit Faktencheckern, das war 2017, da gab es die berühmten Macron Leaks. Also die Lage war, es war Stichwahl in Frankreich, Marine Le Pen gegen den Macron eben und da ist zwei, drei Tage, ich glaube drei Tage vorher ist ein großer Fundus an Dokumenten geleakt worden, ich glaube über WikiLeaks auch. Und diese Dokumente stammten aus der Wahlkampagne von dem Macron und einige davon waren irgendwie so über Finanztransaktionen in der Karibik und alles so ein bisschen Zeug, was alles erstmal ein bisschen anrüchig aussah. Und das war natürlich große Panik in den Medien. Drei Tage vor der Wahl wurde also plötzlich zeugkritisches Zeug geleakt, was also dem Macron hätte schaden können und der Marine Le Pen hätte nutzen können. Und dann ist eine französische Journalistin, ich weiß ihren Namen nicht mehr, auf Twitter auf die originelle Idee gekommen, diese PDF Dateien aus den Banken in der Karibik in Photoshop oder was hochzuladen und hat festgestellt, wenn man diese PDF Dateien öffnet, dann sieht man verschiedene Layers, also das Dokument ist aus irgendwie geschichtet, also der Text ist in einer anderen Ebene als der Hintergrund und als die Bilder. Und das war natürlich die Lösung, denn dann konnten alle sagen, okay, das Zeug ist gefälscht, also das muss jemand mit Photoshop erstellt haben und dann die Layers exportiert haben, als PDF, ohne daran zu denken, dass das erstmal wieder ein gemeinsames Dokument sein muss. Und das war dann das Mediennarrativ quer durch alle Medien, also die Süddeutsche Zeitung und natürlich auch die Faktenfinder haben dann erzählt, okay, das ist alles gefälscht, weil da sind Ebenen drin. Es ging so weit, dass der ARD Faktenfinder sogar ein Tutorial auf Twitter als Twitter Video verbreitet hat, wie man jetzt gefälschte PDF PDF Dateien erkennen kann. Das war also alles noch vor der Stichwahl, also innerhalb von wenigen Stunden war dieses Tutorial online, wie man also jetzt prüfen kann, dass PDF Dateien gefälscht sind. Man lädt sie also hoch in entsprechendes Programm, prüft, ob mehrere Ebenen da sind, ob man die Sachen verschieben kann und wenn ja, dann ist es gefälscht. Wenn man sich ein bisschen damit auskennt, weiß man natürlich, dass das kompletter vollkommener Humbug ist. Also das ist jeder, der elementare Kenntnisse darüber besitzt, wie Dateiformate funktionieren, weiß natürlich, dass das kein Fälschungshinweis ist, sondern das ist einfach nur ein Kompressionsformat für gescannte Dateien. Also diese Dokumente wurden einfach gescannt auf einem relativ hochwertigen Scanner, ob es jetzt von Hewlett Packard oder von wem auch immer war. Und die haben immer so eine Software dabei. Und das Problem ist ja, dass so eine DIN A Seite ziemlich groß ist. Wenn man die jetzt also wie so ein JPEG einfach nur speichern würde, dann wäre die oder die Auflösung von den Buchstaben wäre so schlecht, dass man keine scharfen Kanten mehr sieht. Deswegen nimmt diese Scan Software, versucht sozusagen den Text zu trennen von dem Hintergrund und von irgendwelchen Bildern und speichert das separat eben in diesen verschiedenen Layern. Das ist also ein vollkommen automatisches Verfahren. Heutzutage würde man es vielleicht als KI bezeichnen, aber es ist eigentlich nur Es werden verschiedene Regionen in dem Bild gesucht und in separaten Layern mit unterschiedlichen Verfahren gespeichert. Also die Bilder und der Hintergrund, die WEL, so wie JPEG gespeichert und die Schrift wird mit einem verlustfreien Kompressionsverfahren gespeichert, sodass man die scharfen Kanten nach wie vor hat. Und beides wird dann zusammengepackt in Layers und das ist kein neues Verfahren. Und dann habe ich damals Kontakt aufgenommen mit den Faktenfindern. Ich hatte mit einer der Gründerinnen des ARD Faktenfinders dann Kontakt und habe dann mich mit der ausgetauscht, dachte, die müsste eigentlich ganz froh sein, dass jemand, der sich ein bisschen damit auskennt, das erklärt, was eigentlich los ist. Aber ich hatte das Gefühl, ich finde das ganz schlimm, dass da jetzt einer Ihnen reinredet, wo Sie doch schon so viel Mühe reingesteckt haben, in dieses tolle Tutorial zu machen. Außerdem würde das doch jetzt vielleicht dem Macron schaden, wenn man das wieder zurücknehmen muss. Dann habe ich mich länger mit ihr ausgetauscht, habe ihr versucht, das zu erklären. Dann hat sie sich noch mal rückversichern müssen bei irgendeinem anderen, bei anderen Experten. Also offenbar vorher hatte er nie ein Experte, war nie ein Experte involviert. Aber wenn jetzt ein Professor für Medieninformatik kommt und Moment, das ist Unsinn und das erklärt dann auf einmal wird nochmal, dann beginnt also erst die Recherche. Und dann einige Stunden später verschwand dann sang und klanglos dieser Artikel von der Seite des Faktenfensters. Es gab nie eine Korrektur. Es gab auch keinen Hinweis darauf, dass da was entfernt wurde. Und dieses idiotische Video, das war noch viele Jahre online auf Twitter. Ich weiß nicht, ob es heute noch da ist, aber ich habe eine Kopie. Also wenn es sehen wollt, kann ich Ihnen gerne mal zeigen. Es ist ein schönes Artefakt. Und was mich da besonders betroffen gemacht hat, ist jetzt die, wenn man ein bisschen weiter in der Geschichte zurückgeht, es gab 2012 zu der glaube ich war 2011 12, ich glaube 12 muss zu Beginn der zweiten Obama Amtszeit gewesen sein. Es gab in den USA Verschwörungstheoretiker, die geglaubt haben, dass der Obama nicht in den USA geboren war, also schon während seiner ersten Amtszeit. Die sogenannten Börse waren das. Die wollten ihn also auf diese Art des Amtes entheben, denn damit war das wäre das verfassungswidrig gewesen, dass er dort Präsident ist. Und zu Beginn der zweiten Amtszeit hat das Weiße Haus seine Geburtsurkunde aus hawaii veröffentlicht als PDF-Datei auf der Seite des Weißen Hauses. Und damals diese Verschwörungstheoretiker haben das Gleiche gemacht wie der Faktenfinder und wie die anderen Medien. Die haben also auch das Dokument geöffnet, haben festgestellt, da sind verschiedene Layers drin und das hat dann diese Verschwörungstheorie noch verstärkt. Also genau der gleiche Gedankengang. Es wurde also auch Es war ein sozusagen Confirmation Bias. Das Ding muss gefälscht sein. Dann nehmen wir wir haben keine Ahnung von der Technologie, aber wir nehmen jetzt den erstbesten Hinweis und haben das dann ausgeschlachtet, um wieder dem Obama zu unterstellen, dass er gar nicht in Hawaii geboren ist. Und da sieht man, dass das Mindset exakt das gleiche ist. Also da frage ich mich jetzt, was ist der Unterschied zwischen einem Faktenfinder und einem Verschwörungs Und es wird dann schwierig. Und dann habe ich eben über viele Jahre noch mich mit einer weiteren Verschwörungstheorie beschäftigt, diesen sogenannten Social Bots, die angeblich überall sind, also angeblich KI gesteuerte Teilnehmer an Diskussionen in den sozialen Medien, was auch vollkommener Humbug war. Also weder war es technisch möglich, noch gab es jemals irgendein belegbaren Fund eines solchen Social Bots. Aber es wurde in allen Medien und insbesondere eben auch in den diversen Fakten Findern und Faktenfüchsen und wie sie alle hießen, immer und immer und immer wieder diese Verschwörungstheorie verbreitet. Immer wenn irgendwo in den sozialen Medien eine Diskussion aufkam, wo sich offenbar Leute nicht mit bestimmten Mainstream Meinungen anfreunden konnten, dann wurden diese Leute als Bots diffamiert, die dann vielleicht auch noch von Russland gesch gesteuert sind. Das war alles kompletter Unsinn. Ich habe mich auch mit dem Journalisten, mit Michael Greil, der ist jetzt glaube ich beim Silvestrundfunk, hatte ich mich eine Weile lang beschäftigt mit dieser Frage. Und wir haben das also Grund und Boden widerlegt. Sowohl die Theorie von diesen Leuten, die das behauptet haben, als auch jede Nachfrage nach einem konkreten solchen Social Bot konnte nicht beantwortet werden, weil das war einfach auch nur eine komplette Verschwörungstheorie. Und gefühlt ist mindestens die Hälfte, wenn ich noch mehr von den Artikeln über diese angeblichen Social Bots eben auch in diversen Faktenfindern erschienen.
- [09:19]
B
Bei Verschwörungstheoretikern kann man ja eine klare Absicht dahinter vermuten. Also wenn die sagen, okay, die Geburtsurkunde von Obama ist gefälscht, dann wollen die einfach dieses Narrativ setzen. Bei den Faktenfindern insbesondere, weil die ja für einen öffentlich rechtlichen Sender arbeiten. Wenn da sowas passiert, wie sie gerade berichtet haben, würde ich als gutgläubiger Mensch erstmal davon ausgehen, das ist ein Wissensproblem, ein Ausbildungsproblem. Kann das nicht auch dahinter stecken?
- [09:42]
A
Ich glaube, der Unterschied ist nicht groß. Also ich bin Ja, von gelernter Mustererkenner, also beschäftige ich mich damit, wie man aus Sensordaten oder aus Wahrnehmungen Modelle der Realität erzeugt. Und Kern des ganzen Fachgebiets ist eben die berühmte Bayes Formel, die sagt, dass man sozusagen, dass man etwas glaubt. Zum einen hängt es davon ab, für wie wahrscheinlich man das hält, dass das wahr ist und dann noch, wie gut die Evidenz ist dafür, dass es wahr ist. Und ich glaube, dass die Verschwörungstheoretiker, genauso wie die Journalisten, die leiden unter dem Problem, dass sie einerseits eine hohe Vorerwartung haben für das, was wahr ist und andererseits ein schlechtes Modell für die Realität haben. Und beides in Kombination führt dann zu falschen Ergebnissen. Also ich glaube nicht, dass da ein grundlegender Unterschied ist.
- [10:36]
B
Also wenn man das mal übersetzt, dann wird das halt zum einen gehen auch solche Leute wie die Faktenfinder oder sind da rangegangen, das wäre ihre Interpretation einfach mit dem Narrativ daran, die wollten was finden und was beweisen. Und zum Zweiten hatten sie da nicht den richtigen technischen Hintergrund, um sozusagen ihre Ausgangsthese als falsifiziert zu betrachten.
- [10:57]
A
Es ist letztlich Confirmation Bias. Also ich will, dass das stimmt, also glaube ich es auch. Es ist also nicht im Sinne einer Absicht, ich will jetzt hier mit Gewalt die Leute belügen, damit die in Frankreich die richtigen Person wählen, sondern die glauben das wirklich. Also das ist das interne Update von dem mentalen Modell der Welt ist eben dadurch gestört, dass einerseits zu wenig Wissen über die Realität da ist und gleichzeitig eine sehr hohe Überzeugung, dass man die richtige Vorerwartung hat.
- [11:31]
C
Aber jetzt muss ich mal ganz dumm nachfragen, es gibt keine Social Bots. Haben Sie gerade so en passant gesagt. Ist das nicht die Begründung gewesen, warum Politiker von Linken, Grünen und SPD reihenweise gerade X verlassen haben? Dass das quasi nur noch von Social Bots und Hass und Hetze haben sie natürlich noch dazu genannt, aber die gibt es gar nicht. Den Grund, den sie zum Verlassen genannt haben.
- [12:00]
A
Also gibt es gar nicht, würde ich heute nicht mehr sagen. Sozusagen inzwischen, die Technologie hat sich weiterentwickelt, also um 2020 rum war es noch so, da hätte man noch nicht mal zuverlässig erkennen können, ob jemand für oder gegen irgendetwas ist. Also es gab einfach noch nicht die Sprachverarbeitungstechnologie, um wirklich den Inhalt von einem Satz zu verstehen. Mit ChatGPT hat sich das ein bisschen geändert, also mit diesen Large Language Models. Jetzt gibt es sozusagen durchaus die Möglichkeit, einen Bot zu schreiben, der eine halbwegs sinnvolle Antwort auf einen Tweet gibt. Also die technische Möglichkeit ist jetzt Da. Seit ungefähr 2024 gibt es auch frei verfügbare Modelle, die das im Prinzip können. Und ich habe tatsächlich im Oktober 2024 das erste Mal wirklich Bots gesehen, die ungefähr dem entsprochen haben, was immer Social Bot bezeichnet wurde. Die also tatsächlich interagieren mit Nutzern, indem sie auf Tweets zumindest antworten. Die antworten immer nur einmal, aber dann nie wieder und die auch sich in politische Diskussionen einmischen. Ich habe eine Veröffentlichung noch dazu geschrieben, die demnächst erscheinen wird. Es ist aber so, die entsprechen überhaupt nicht der Vorstellung der klassischen Social Bots, denn die gibt es in allen möglichen politischen Schattierungen. Also sowohl AfD freundliche, also sehr, sehr viele Grüne, die die Energiewende toll finden und die Atomkraft blöd finden. Und der gemeinsame Nenner von diesen Bots, die ich da gefunden habe, ist, dass sie die Vereinigten Arabischen Emirate toll finden. In jeder Diskussion kommt dann irgendwann die Ja, bei uns in den Vereinigten Arabischen Emiraten habt ihr doch viel bessere Investitionsbedingungen, Da geht es zum Teil um die Rüstungsindustrie. Und am Ende sozusagen quasi jeder fünfte Tweet oder so führt dann in die Vereinigten Arabischen Emirate, sodass man zumindest vermuten kann, dass das irgendwie eine Marketingaktion der Vereinigten Arabischen Emirate ist und die politischen Personas, die da gepflegt werden sollen dazu dienen, irgendwie sozusagen Verknüpfungen aufzunehmen mit realen Menschen auf Twitter. Funktionieren tut das allerdings überhaupt nicht. Also ich habe die jetzt weit über ein Jahr beobachtet und die, die nicht gelöscht worden sind, die haben auch nicht wesentlich mehr Follower als vorher. Ganz selten mal eine Interaktion, dass sie mal ein Herzchen kriegen. Manchmal antwortet einer noch mal auf einen Reply, den diese Bots setzen. Aber also ich würde sagen, es gibt sie jetzt in kleinem Umfang. Sie haben überhaupt keinen Einfluss auf reale Diskussionen, weil sie haben keine Follower, sie haben fast keine Interaktion mit echten Nutzern. Aber die Situation, dass wir die überhaupt nicht mehr haben, würde ich sagen, seit 2024 kann man es nicht mehr so sagen.
- [14:52]
B
Aber Bots, die einfach nur Tweets weiter aufnehmen und reposten, ohne irgendwie zu antworten oder ähnliches, die waren doch vorher, vor 2020 auch schon möglich.
- [15:03]
A
Möglich. Und es gab die auch. Also es gibt zwei bekannte Beispiele dafür. Zur Brexit Zeit gab es zwei Bots. Der eine hieß I vote leave und der andere hieß I vote stay. Und der I vote leave Bot hat alles retweetet, wo der Hashtag ivoteleave drin war. Und der ivoteStay Bot hat alles retweetet, Wo ivoteStay drin war. Aber das war jetzt jeder, der das Ding gesehen hat, dem war das klar, dass das ein Bot ist. Das war jetzt auch nicht irgendwie im Sinne, dass da, dass die Leute glaubten, dass das ein realer Mensch ist, dieser Bot. Also von daher hat das eigentlich mit dieser Vorstellung, dass da jetzt automatisierte Propaganda betrieben wird und wir alle nur noch mit Computern reden, das hat ganz sicher nicht gestimmt. Und das stimmt eben auch heute nicht. Man kann tatsächlich heute, wenn man mal einen Reply bekommt, kann man sich schon öfter mal fragen, ob der nicht automatisiert ist. Der größere Anteil wahrscheinlich, was auf Twitter im Moment an automatisierten Accounts existiert, das sind Bots, denen es wohl hauptsächlich darum geht, irgendwie Engagement zu bekommen, die vor allen Dingen auf sehr, sehr große Accounts Kommentare schreiben, sehr, sehr schnell Kommentare schreiben, wo sie im Wesentlichen das zusammenfassen, was in dem Tweet auch drin Stand, also eigentlich 0 Mehrwert liefern und die dann irgendwie immer fast unter allen von diesen ganz großen Engagement paid Accounts immer ihre Replies drunter schreiben, ohne irgendeinen Mehrwert. Das ist mit Sicherheit auch automatisch generiert. Da fehlt aber jetzt dieser Manipulationsaspekt, der bei den Social Bots in der Definition. Noch steckt. Das ist eher nur ein Versuch, automatisiert vielleicht am Ende über die Twitter Auszahlungen ein paar Dollar zu verdienen.
- [16:46]
C
Sie haben vorhin schon mal das ZDF gestreift. Mit dem liefern Sie sich ja seit ungefähr einem Jahr eine heftige Auseinandersetzung. Da geht es um einen Beitrag über russische Suchanfragen im Netz vor den Anschlägen. Und das waren Anschläge in Aschaffenburg, München und Mannheim. Und die Grundthese des Beitrags war, die seien von Russland gelenkt, um die deutschen Wahlen zu beeinflussen. Und da würden Datenrecherchen darauf hindeuten. Was hat Sie denn daran so erregt?
- [17:21]
A
Ja, dass das kompletter Unsinn ist. Also ich hab diese Meldung morgens irgendwie vorm Frühstück gesehen. Es kann doch nicht wahr sein, dass sie so einen Unsinn machen. Dann hatte ich die Das erste, was ich gemacht hatte, war, also ich erkläre noch ein bisschen, wie die Argumentation des ZDF war. Also die haben zwar aufwendig gestaltete Berichte gemacht mit toll ausgeleuchtet, der Scharlatan, der ihnen das erklärt hatte, der war irgendwie bunt ausgeleuchtet und wie ein Wissenschaftler. Und im Heute Journal wurde das grossgebracht. Und es gab schon vorher auf Bluetooth, haben die heute schon mal verantwortlich, als ihnen unterstellt wurde, das ist eine Verschwörungstheorie, dass der Putin hinter den ganzen islamischen Anschlägen steckt wurde sozusagen Ja, aber wir haben da was und wir wissen genau, wir sind da besser informiert. Und dann kam also diese großartige Geschichte. Die Idee war, dass wenn man Google Trends benutzt, dann kann man sozusagen gucken, wie oft ein bestimmter Suchbegriff einen gewissen Zeitraum erschienen ist. Der Hintergrund ist, das ist sozusagen ein Tool für Search Engine Optimization. Also wenn ich jetzt meine, keine Ahnung, meine Zahntechniker Firma irgendwie in Google Ranking nach oben pushen will, dann kann ich gucken, wie oft ist nach bestimmten Begriffen in meinem Feld gesucht worden, dann kann ich dafür sorgen, dass die bei mir auch auf der Seite stehen. Das ist also die Idee, dass man dadurch ein bisschen Transparenz kriegt, wonach die Leute eigentlich suchen. Und was das ZDF gemacht hatte, die haben dann so irgendwie nach Strings wie Anschlag Mannheim gesucht, wie oft ist nach Anschlag Mannheim gesucht worden und haben dann natürlich nur in Russland gesucht nach diesem String Anschlag Mannheim und stellte sich raus, also deswegen Anschlag Mannheim ist tatsächlich auch in Russland gegoogelt worden, angeblich, wenn man diesen Google Trends, wenn man das nicht versteht. Und daraus wurde also der Schluss gezogen, naja, wenn jemand vor dem Anschlag in Mannheim nach Anschlag Mannheim gegoogelt hat in Russland, dann muss ja Russland hinter diesem Anschlag in Mannheim stecken. Das ist sozusagen die Logik. Also auch klassische Verschwörungstheorie denken. Da kann man sich natürlich unabhängig davon, ob man sich jetzt mit der Technologie auskennt, kann man schon als Laie Moment, also wenn ich ein bisschen rational denke und mir fällt das auf und ich verstehe nicht, wie Google Trends arbeitet, da könnte ich doch mal im anderen Land auch nach Anschlag Mannheim suchen. Und wenn sie das gemacht hätten, hätten sie gesehen in Neuseeland und auf Aruba und in Japan und überall auf jedem anderen Land der Welt ist auch nach Anschlag Mannheim gegoogelt worden, auch schon vor dem Anschlag. Wenn Sie diesem Tool glauben, Sie mussten nämlich einfach nur den Suchbegriff eingebe und ein paar Mal auf Reload drücken, da kriegen Sie immer irgendwann diese Peaks, die da in einem Graphen zu sehen waren, die dann gedeutet wurden als konkrete Suchanfragen. Also das war der erste Hinweis, dem man nachgehen hätte können, ohne irgendwas von Informatik zu verstehen. Da hätte man irgendwie skeptisch sein müssen. Moment, also ich muss auch eine Gegenprobe mal machen, ob das jetzt nur für Russland geht oder ob die ganze Welt irgendwie dahinter steht. Die ganze Geschichte bricht ja schon an dem Punkt zusammen. Der nächste Fehler, der gemacht wurde, ist, ich habe, als ich das erste Mal gesehen habe, habe ich mir den Namen von diesem Scharlatan angeguckt und habe gesehen, der hatte damals noch einen Twitter Account, den er schnell gelöscht hat oder zugemacht hat. Und dann bin ich seine Timeline durchgegangen, habe festgestellt, schon irgendwie der fünfte oder zehnte Tweet von oben, da hatte er mit dem gleichen Verfahren nachgewiesen, dass irgendein U Boot, da ist so ein Tieftauch U Boot ist kaputt gegangen, implodiert und alle Insassen waren tot. Und auch bei dieser U Boot Geschichte hatte er also durch sein Google Trends Tool festgestellt, dass da vorher schon jemand danach gegoogelt hatte, bevor das passiert ist. Also eine ganz wilde Verschwörungstheorie. Also dieses U Boot muss also auch von bösen Mächten irgendwie vorher schon mal, das muss also geplant gewesen sein. Dieser Typ ist ein One Trick Pony, also er kann nur Google Trends, also ich glaube nicht, dass er akademisch gebildet ist. Also ich habe zumindest keine Hinweise darauf gefunden und er beschäftigt sich halt mit Suchmaschinenoptimierung, daher kennt er diese Google Trends. Und dem ist irgendwann aufgefallen, dass irgendwie immer, wenn er seine Verschwörungstheorien, wenn er denen nachgeht und die entsprechenden Suchbegriffe eingibt, dann findet er auch die entsprechenden Treffer bei Google Trends. Der technische Hintergrund ist eben ganz einfacher. Also Google ist ja eine Firma, die bis hin auf die Privatsphäre ihrer Nutzer auch Wert legt und Wert legen muss. Also sie kann nicht einfach allen Leuten zeigen, wer wonach gegoogelt hat. Also das wäre eine grobe Verletzung der Privatsphäre, weil man jetzt genau gucken könnte, Wer hat in welchem Land nach welcher oder in welcher Stadt nach welcher Erkrankung gesucht und pipapo. Und da kann man ja wilde Geschichten draus konstruieren, wenn das tatsächlich möglich wäre. Also ist das natürlich nicht möglich, sondern Google Trends verwendet ein bekanntermaßen, das ist auch veröffentlicht auf den entsprechenden Blogposts von Google, auch kann man das nachlesen, ein Verfahren, das nennt sich Differential Privacy oder Privacy. Also das sind Verfahren, das kommt immer dann zum Einsatz, wenn man große Mengen von Daten hat, die für sich genommen die Privatsphäre verletzen würden, wenn man die veröffentlichen würde, also auch im medizinischen Bereich zum Beispiel. Ich möchte also nicht, dass die Krankheiten einzelner Patienten nachvollziehbar sind, Ich möchte aber trotzdem auf generelle Trends hinweisen, also zum Beispiel, dass bestimmte Krankheiten mit bestimmten Medikamenten korrelieren oder solche Geschichten. Und dieses Differential Privacy ist, glaube ich, auch mit von Google entwickelt worden, ist ein mathematisch beweisbares Verfahren, wo man sicherstellen kann, dass aus den veröffentlichten Daten eben nicht auf einzelne Fälle geschlossen werden kann, in dem Fall auf einzelne Suchanfragen. Und wie geht das? Da wird ein Rauschen injiziert in die Daten, das heißt, die Daten werden also irgendwie grob akkumuliert und dann werden die noch verrauscht. Das bedeutet also, dass nichts mehr die Wahrscheinlichkeit Null hat. Also sozusagen alles, alle Suchbegriffe kriegen dann auf diese Art in diesem Verfahren an jedem Ort der Welt eine Wahrscheinlichkeit größer als Null. Das hat sogar dazu geführt, dass ich zum Beispiel, ich hatte mal nach den Lottozahlen mit Superzahl, mit Underscore von dem letzten Wochenende in Google Trends gesucht und habe die auch, glaube ich, von irgendeiner Südpazifik Insel gefunden, dass auch da jemand danach gegoogelt hätte. Also auf gut Deutsch, Sie finden in Google Trends zu jedem Suchbegriff an jedem Ort der Welt in jedem Zeitraum Treffer, wenn Sie nur oft genug auf Reload drücken. Also das ist auch wieder ein ideales Tool für Verschwörungstheoretiker. Also Sie können damit wirklich jede Verschwörungstheorie belegen, weil Sie immer für das, was gerade passiert ist, in der Vergangenheit Belege finden. Also wenn Sie das Gefühl haben, dass die Welt von außen kontrolliert wird, ist Google Trends optimal. Übrigens auch von vielen im Zusammenhang mit mit dem, ich glaube mit dem Palästina Konflikt und so gab es auch wieder viele Verschwörungstheoretiker, die nach genau diesem Prinzip oder ne oder auch mit, ich weiß gar nicht mehr, also unterschiedlichste Fälle immer haben sie in Israel jemanden gefunden, der schon danach gegoogelt hatte und die ganze Welt wird also aus Israel gesteuert. Und der gleiche Ansatz ist eben im ZDF dann auch gefahren worden mit mit Russland. Und das ist natürlich schon eine wilde Geschichte. Also sozusagen allein die Grundidee, also okay, wir haben da eine Reihe von Anschlägen in Deutschland, aber jetzt muss ich mal
- [25:30]
C
kurz nachfragen, wie hat denn das ZDF reagiert? Haben die sich dann entschuldigt und alles richtig gestellt?
- [25:35]
A
Natürlich nicht, keinesfalls. Also es gab, ist mir zugespielt worden. Manche Leute hatten sich beschwert, also beim ZDF oder beim Intendanten über diese, über dieses Vorgehen und es gab einen Brief, wo also auch dann wieder eine Unwahrheit drin stand, der dann diesen Zuschauern zurückgeschickt wurde. Die Unwahrheit war nämlich, dass dieser Scharlatan schon mal dazu beigetragen hätte, einen Mordfall aufzuklären. Oder nämlich es ging um diesen Lübcke Fall, dass der angeblich durch genau diesen Trick auch gelöst worden wäre. Da ist ein Funken Wahrheit dabei. Dieser Typ hatte sich wohl damals an die Polizei gewandt mit seinem Hinweis, weil er hatte das eben auch, hatte dann auch wieder auf Google Trends geguckt. Es gab einen alten Spiegelartikel, hatte ich gefunden, da wurde tatsächlich erwähnt, dass der sich mit der Polizei in Verbindung gesetzt hatte, aber natürlich hat das nicht gestimmt und natürlich hat er nicht, wie das ZDF behauptet, den Fall gelöst, sondern der Fall ist damals durch, wenn ich es richtig in Erinnerung habe, durch eine DNA Probe gelöst worden, also einen genetischen Fingerabdruck. Und dieses Google Trends hat natürlich nicht funktioniert, weil es nicht funktionieren kann. Aber auch da wurden also wieder die Leute in die Irre geführt mit einer schlicht unwahren Behauptung, der Typ hatte nicht den Fall gelöst, sondern der hatte sich vielleicht tatsächlich damals an die Polizei gewandt. Aber ja. Und was mich jetzt besonders eben irritiert, aber das ist konsistent mit dem, was ich bisher auch oft von öffentlich rechtlichen Medien sehe, Es existiert absolut nicht die geringste Fehlerkultur. Also es ist keinerlei Bereitschaft da irgendetwas zu korrigieren. Das höchste der Gefühle ist, dass sie irgendwas klammheimlich löschen. Aber selbst das haben sie in diesem Fall nicht gemacht.
- [27:23]
B
Ne, die Geschichte steht bis heute noch. Es war eine groß angelegte Recherche von Terra X History und die wurde dann eben auch tatsächlich im heute Journal und auf heute eben auch entsprechend gepostet. Wobei mich interessiert Hat denn das ZDF auf Ihre Kritik sich noch mal gemeldet und das mit diskutiert oder gab es da überhaupt keinen Austausch?
- [27:50]
A
Nein, gar nicht. Ich hatte ja auch gegenüber der Zeit um die Welt, hatte ich noch mal sozusagen zusammengefasst, wie die Lage ist. Selbst wenn Sie auf Twitter nicht aktiv sind, hätten Sie es in der Zeitung lesen können. Aber nein, es gab keine Reaktion. Warum auch? Ich habe auch sehr offensiv gesagt, Leute, absoluter Unsinn. Und wenn ihr weiter das verbreitet, ist das für mich eine Lüge. Und es ist ja auch kein komplett irrelevantes Thema, sondern es ist ja ein ganz zentrales Thema der aktuellen Politik. Wie ist das Verhältnis zur islamischen Emigration? Da ging es ja um islamistische Anschläge zum Teil, wobei das alles sehr unterschiedliche Hintergründe waren von diesen Tätern. Und dann jetzt dem Putin noch zu unterstellen, dass er dafür verantwortlich war. Ich mag den Putin auch nicht, aber das erinnert so ein bisschen an diese, ich glaube der erste Irakkrieg. Da wurde von einer PR Agentur diese Geschichte erzählt, dass die irakischen Soldaten die Neugeborenen aus den Brutkästen gezogen hätten, also um die Kriegsbereitschaft zu erhöhen. Und da wird genau auf die gleiche Art einfach eine komplette frei erfundene Geschichte in die Welt geblasen, die natürlich das Narrativ stützt, wir müssen jetzt irgendwie bald einen Krieg führen gegen Russland. Und selbst bei so einer doch wichtigen Frage nicht die geringste Bereitschaft, da ein bisschen auf journalistische Standards Rücksicht zu nehmen, sondern da wird einfach die Geschichte rausgeblasen. Und ich habe tatsächlich in der Verwandtschaft eine ältere Dame, die mich darauf angesprochen hat, dass doch Putin hinter diesen Anschlägen stehen würde. Also die Reichweite von solchen Verschwörungstheorien über die klassischen Medien ist natürlich viel, viel größer als die Reichweite von irgendwelchen Spinnern auf X.
- [29:57]
C
Lassen Sie uns doch mal über künstliche Intelligenz im Journalismus reden. Ich bin zuletzt gestolpert über einen Beitrag, den hat der Ministerpräsident von Thüring verfasst für die Welt gemeinsam mit dem Spitzenkandidaten der CDU, Schulze von Sachsen Anhalt, wo sie geworben Es soll doch mehr deutsche Musik im Radio gespielt werden. Und dann kam das irgendjemand verdächtig vor und hat eine Anfrage gemacht an die Staatskanzlei und die haben zugegeben, ja, ja, das ist mit KI geschrieben worden. Und Herr Vogt findet auch das gar nicht problematisch, woraufhin dann Journalistenkollegen von Frag den Staat doch noch mal sich das näher angesehen haben, auf die Idee gekommen sind, Mensch, vielleicht hat Mario Voigt des Öfteren schon mal bzw. Seine Mitarbeiter in der Staatskanzlei die KI angeworfen, um auch Reden und so weiter zu generieren. Und siehe, da gibt es doch einige sehr verdächtige Auftritte, sogar bei Beerdigung, wenn ich das richtig weiß, und Auch eben bei zwei Gedenkreden in Buchenwald. Und Auschwitz, wo man das ja schon als pietätlos bezeichnen kann, da eine KI generierte Rede zu verbreiten. Jetzt kann man das noch ganz gut erkennen, dass so ein Text möglicherweise KI generiert ist. Wie lange wird es denn dauern, bis man das gar nicht mehr erkennen kann?
- [31:28]
A
Das ist eine schwierige Frage. Also beim heutigen Stand ist es tatsächlich so, dass diese KI generierten Texte sehr, sehr auffällige Merkmale aufweisen. Häufig, also wenn man sich nicht Mühe gibt, das zu verschleiern. Und zwar gilt das eigentlich unabhängig davon, ob man akademische Texte generieren lässt oder ob man so Zeitungsstil mit ganz kurzen Sätzen und ganz vielen Punkten drin generiert. Aber zum Beispiel ein Muster, was auch in diesen Mario Vogt Fällen jeweils immer aufgefallen ist, war dieses, dass man erst etwas verneint und dann dadurch verstärkt, dass man es sagt. Also es war nicht dies, es war jenes, er hat nicht das gemacht, er hat das gemacht. Es ist nicht so, sondern anders. Diese kontrastive Verstärken dadurch, dass man es erst verneint und dann das Gegenteil schreibt. Das ist ein ganz, ganz häufiges Muster, was ich also auch sehe, Wenn ich mit ChatGPT mich unterhalte und was einem inzwischen wirklich ins Auge springt. Also gerade auf Twitter gibt es extrem viel viele lange Tweets, die ganz eindeutig KI generiert sind und die genau dieses Muster aufweisen. Also das ist so ein Merkmal, was man heute gut erkennen kann. Man könnte es natürlich auch beseitigen lassen. Also wenn ich einen Text KI generieren lasse und anschließend der KI mach dieses Muster raus, dann ist es weg. Dann könnt ihr das schon auch umformulieren. Aber wenn man das sozusagen sorglos macht und einfach nur das erste nimmt, was rausfällt, dann ist das Muster drin. Ob man das, also das ist sozusagen die eine Seite, was auch bei Frag den Staat sozusagen diese Muster erkannt werden, fand ich ja noch netter in dieser Papst in diesem Papstwerk über künstliche Intelligenz, Enzyklika oder wie sich das nennt, da hat einer relativ ausgiebig drauf geguckt, hat auch nachgewiesen, eigentlich ist das KI generiert. Also da waren ganz viele von diese auch drin und ganz viele Gedankenstriche und so, die alle noch nie vorher in diesen Dokumenten vorgekommen waren. Also auch dieses Papstwerk über KI wirkte sehr stark KI generiert. Der zweite Weg, wie man es eben prüfen kann, sind so automatische Detektoren. Der beste, den es im Moment gibt, nennt sich Pangram, der wirklich aus meiner Sicht eine ganz gute Quote hat, wobei ich das eben auch immer nur anekdotisch sagen kann. So richtig, richtig stabile Zahlen dazu gibt es auch nicht, wie gut das funktioniert, aber der ist schon, der bestätigt immer meinen Verdacht. Also wenn ich das Gefühl habe, da ist was KI generiert, dann kriege ich in der Regel auch, dann sagt er das normalerweise auch Und auf alten auf texten, die also nicht KI generiert sein können, liefert eigentlich immer 0 Prozent Wahrscheinlichkeit dafür, dass es KI generiert ist. Zurzeit untersuchen wir das in der Masterarbeit noch ein bisschen systematischer, auch mit akademischen Arbeiten vor und nach der oder mit akademischen Arbeiten vor der ChatGPT Zeit und Texten, die wir dann selbst KI generieren auf unterschiedliche Art, um rauszukriegen, wie gut kann man das noch erkennen. Ich nehme an, es wird immer so vielleicht ein Wettlauf bleiben. Also so ein Tool wie Pangram kann wahrscheinlich immer, wenn man es immer auf den aktuellsten Modellen nachtrainiert, wahrscheinlich schon noch was leisten. Das ist also ein Zeichen komplexes Klassifikationsverfahren, was selbst wieder ein neuronales Netz ist und was auch darauf optimiert ist, eben keine falsch Positiven zu liefern. Also da ist so eine Schleife im Trainingsprozess. Immer wenn es was, was nicht KI generiert ist, wieder als KI generiert, fälschlich zertifiziert, wird das noch mal wieder mit ins Training genommen und verstärkt, so dass man die versuchen, also die falsch Positivrate sehr gering zu bekommen. Aber gerichtsfest ist es natürlich trotzdem nicht. Also es ist im Moment kann man sagen, okay, du hast die und die Wendungen verwendet, die typisch für KI sind und Pangram sagt auch, Das sieht nach 100 Prozent KI aus. Aber ob man jemanden vor Gericht damit das nachweisen könnte, hätte ich meine Zweifel.
- [35:51]
B
Also mich erinnern ja diese gesamte Diskussion um solche Tools wie Pangram oder ähnliches immer an die Diskussion, die es ja vor etlichen Jahren zu den Butometern gab, würden Sie sagen, die sind auf einem anderen Niveau oder ist da nicht doch Skepsis angebracht?
- [36:08]
A
Skepsis wie immer angebracht. Aber bei dem Botometer war ja das spezielle Problem, dass die dieses Protometer auf ein Problem trainiert haben, was gar nicht existiert hat. Also die hatten ja gar keine Ground Truth. Also die hätten ja sozusagen, die hätten, um sozusagen so einen Klassifikator wie Botometer zu trainieren, hätte man irgendwie Bots gebraucht, also die jetzt dem entsprechen, was man glaubt, was ein Social Bot ist. Die gab es ja nicht. Also haben die stattdessen irgendwelche Spam Accounts von 2008 oder so fürs Training genommen, die überhaupt nicht automatisiert waren wahrscheinlich jedenfalls, die nichts mit politischen Bots in irgendeiner Form zu tun hatten. Das war ein Teil des Trainings. Und dann haben sie natürlich, dann haben sie irgendwelche Studenten beauftragt, Tweets danach zu bewerten, ob die jetzt wie Bot klingen oder nicht. Also da gibt es auch wissenschaftliche Studien dazu. Na ja, je mehr die Meinung von dem Miner widerspricht, desto mehr halte ich das Ding für einen Bot. Und deswegen sind also schon diese ganzen Trainingsdaten sind absurd. Also die haben, die haben keine Ground Cruise, wie wir sagen, also die haben gar keine Referenz, wo man weiß, was es ist oder auf denen man sinnvoll trainieren hätte können. Deswegen ist das von vornherein zum Scheitern gewesen mit diesem Botometer. Bei dem Pangram ist es anders. Da kann man ja tatsächlich trainieren. Wir wissen ganz sicher, dass alle texte, die vor 2022 entstanden sind, nicht mit KI erzeugt worden sind. Und wir wissen und wir können auch KI generierte Texte erzeugen auf unterschiedliche Art. Man kann natürlich einfach sagen, schreib den und den Text oder formuliere das um. Es ist im Detail ein bisschen komplizierter, wenn man zum Beispiel, man kann so einem Generator eine gewisse Person angeben, also schreib jetzt so, als wärst du ein leicht legasthenischer Informatikstudent im zweiten Semester und vielleicht mit Migrationshintergrund oder so aus dem und dem Land, so dass man dann den Stil doch versuchen kann, bisschen von einem normalen ChatGPT Stil wegzulegen. Deswegen ist es im Grenzbereich nicht immer leicht zu sagen, ob es dann wirklich funktioniert. Aber zumindest ist es wissenschaftlich möglich. Also ich kann eine Studie machen, ich kann überprüfen, wie gut es ist und am Ende kann ich auszählen, wie gut es funktioniert hat, zumindest auf einem eingeschränkten Teil der Realität. Und bei Botometer war es einfach von vornherein kompletter Unsinn.
- [38:30]
C
Aber helfen Sie mir mal so als absoluten Techniklein oder Deppen, wenn ich jetzt Journalist bin und die KI einsetzen möchte, wo ist es sinnvoll und wo ist es weniger sinnvoll?
- [38:47]
A
Ja, das ist eine große Frage. Also die schließt natürlich an die Frage, was ist KI überhaupt oder was kann KI nicht, was wir können? Und mein Gefühl ist eben doch, dass die KI Modelle sich rasant in einen Bereich bewegen, wo sie uns in allen kognitiven Bereichen überlegen sein werden. Ich glaube heute schon, dass die meisten, selbst GROG, was jetzt wirklich ein relativ schlechtes Modell ist, verglichen mit den besten, aber wenn ich Grog zu irgendeinem aktuellen Thema frage, kriege ich meist schon mehr Substanz, als ich jetzt wahrscheinlich in der typischen dpa Meldung sehen würde. Also innerhalb von Sekunden geht der 20 Artikel durch und recherchiert das und liest die alle und liefert mir eine kurze Zusammenfassung davon.
- [39:37]
C
Also nur kurz dazwischen geworfen, Krog ist die Variante von Elon Musk auf X.
- [39:42]
A
Genau, das ist sozusagen, der wird sozusagen, den kann man auf zwei Arten nutzen. Man kann ihn einfach nutzen wie ChatGPT in der App oder man kann ihn eben auch dadurch sozusagen rufen in einem Twitter, in einer Twitter Diskussion, dass der direkt wie ein Diskussionsteilnehmer sich in die Diskussion einmischt. Aber wieder, das ist natürlich nur, der Grog ist wirklich nur ein ganz, ganz kleiner Schatten von dem, was mit wirklich guten Modellen möglich ist. Also wenn Sie so einen Account bei OpenAI haben und Sie wollen irgendeine Information zu einem bestimmten Thema haben, also egal, zum Beispiel, wenn ich jetzt zu den Anschlägen in Mannheim und sowas wissen wollte, was war da los, Da würde ich ChatGPT fragen, was da los war, würde das im Pro Modus starten und er würde vielleicht 20 Minuten recherchieren und 100 von Quellen dabei lesen und würde mir am Ende ein Ergebnis liefern, in das ich weitaus mehr Vertrauen hätte, als in alle heutigen journalistischen Produkte. Also deswegen ist die Frage schon ganz fundamental. Aber es betrifft eben nicht nur den Journalismus, es betrifft auch mich, also selbst in meinen gut, vielleicht ein paar Nischenthemen, wo sehr, sehr viel falsche Sachen in der Zeitung standen, also zum Beispiel dem Thema Social Bots, glaube ich, da weiß ich noch deutlich mehr drüber als ChatGPT. Aber wenn es um das geht, was ich meistens so in der Vorlesung mache, wie funktioniert so ein Large Language Model oder solche Sachen, da kann ich nicht mithalten mit ChatGPT. Da weiß ChatGPT viel, viel mehr drüber als ich in viel, viel größerer Tiefe, kann viel, viel schneller, viel, viel komplexere Fragen lösen, kann viel besser programmieren als ich. Deswegen ist es die ganz grundsätzliche Frage, wie gehen wir damit um, dass dieses Ding so irgendwann wahnsinnig viel schneller und schlauer und besser informiert ist als wir. Und für Journalisten sieht es schwierig aus. Also ich glaube Journalismus in der Form, wenn sich das mal rumgesprochen hat, wie gut diese Technologie ist, kann nur noch funktionieren, wenn man es irgendwie mit einer Persönlichkeit verknüpft sozusagen, dass man, dass die Leute gerne bestimmten Stil von irgendeiner Person leben, die dann vielleicht auch reale Dinge tut und erlebt und irgendwie Teil der Geschichte ist, weil Alles andere kann ChatGPT. Also wenn ich einfach nur recherchieren will, was passiert ist und das als öffentlich zugänglichen Quellen verfügbar ist, dann braucht man keinen Journalismus mehr. Also Journalismus wird dann, oder man fängt eben da an, wo man wirklich recherchiert und Dinge ans Tageslicht fördert, die nicht öffentlich verfügbar sind.
- [42:30]
C
Da muss ich noch mal nachfragen. Okay, also es sind ja zwei verschiedene Dinge. Einmal zum Schreiben kann ich sie einsetzen, da können wir ja auch noch mal drüber sprechen. Aber wir sind bei der Recherche, da habe ich jetzt ja schon ganz oft gehört, ich soll zur Recherche einsetzen, da ist die so toll. Also habe ich das jetzt auch ausprobiert verschiedentlich und tatsächlich natürlich die Geschwindigkeit übertrifft meine Geschwindigkeit, die ich jetzt als Journalist beim Recherchieren hätte. Allerdings muss ich auch sagen, mir fällt natürlich auf in Gebieten, wo wo ich mich glaube ich ganz gut auskenne, dass mir dann eben doch auffällt, dass einige Dinge veraltet sind oder eben nicht exakt sind. Wenn ich das jetzt aber nicht weiß, dann falle ich natürlich darauf rein. Ich weiß ja gar nicht, dass das überprüfen muss. Also ich müsste ja sozusagen alle 100 Quellen noch mal ansteuern, um sie zu überprüfen, was ja keinen Sinn ergibt. Dann kann ich ja gleich selber machen. Wie kann ich denn sowas ausschließen? Oder sind das einfach nur so Anfängerfehler und das wird in ein paar Monaten nicht mehr der Fall sein.
- [43:24]
A
Also die Entwicklung ist ja rasant. Also noch vor eineinhalb Jahren gab es überhaupt noch keine Reasoning Modelle. Da gab es nur so wie ChatGPT hat dann einfach geantwortet, irgendwas runtergeplaudert, also ohne Nachdenken und ohne hat irgendwie eine halbwegs plausibel klingende Antwort produziert. Und inzwischen haben wir eben die Situation mit diesen Reasoning Modellen, die wirklich intensivst recherchieren und die liefern auch manchmal Sachen, die nicht stimmen. Eben dann, wenn ganz viel Zeug nicht stimmt. Also wenn das, was in der Wikipedia steht, nicht stimmt und wenn das Zeug, was in der Zeitung steht, nicht stimmt, da steht nur den Fall mit Google Trends oder so. Selbst da liefert er irgendwie, ja, okay, wahrscheinlich ist das bestimmt nicht so richtig oder so, aber eine klare Aussage, dass es einfach kompletter Humbug ist, weil sie von ChatGPT auch nicht kriegen, weil das eben so oft falsch überall in der Zeitung und in den Medien, Medienstand, dann verarbeitet er das natürlich auch. Aber da unterscheiden wir uns ja nicht von ChatGPT als Menschen. Wenn wir etwas oft genug falsch in den Medien lesen, dann fangen wir auch an, es zu glauben. Also das ist kein grundsätzlicher Unterschied. Und so wie die Entwicklung ist und so rasant wie die läuft, spätestens in einem halben Jahr kann fast niemand mehr auf irgendeinem Gebiet mithalten. Wie gesagt, ich habe noch meine kleinen Spezialgebiete, wo ich glaube, dass ich immer noch ein bisschen mehr weiß als ChatGPT, aber ich fürchte, das wird bald vorbei sein.
- [44:58]
B
Ich denke auch in der Recherche, da müssen Journalisten einfach lernen, damit gut umzugehen, natürlich skeptisch zu bleiben. Und ein Punkt ist für mich der Aufbau von entsprechenden Wissensbasen in Verlagen. Also mein Buch über digitale Kriminalität, da habe ich auf alle Quellen zurückgegriffen, die in über 40 Jahren Berufstätigkeit entstanden.
- [45:19]
C
Sind.
- [45:19]
B
Und da habe ich mir einfach Olama runtergeladen und Olama mit den Dingen, die auf meiner Festplatte eben waren, irgendwie fünf oder Dokumente oder sowas, also meine eigenen Beiträge, die recherchiert waren, die quellenreferenziert waren. Und wenn ich dann eine konkrete Frage zu bestimmten Sachen hatte, weil ich im Kapitel gerade nicht weiterkam, dann habe ich eben den entsprechenden Prompt bei OLAMA geschrieben und dann bekam ich auch Auskünfte die natürlich stimmten. Ich wäre der Meinung, so in die Richtung müssten auch Journalisten sich mit dem Einsatz von KI Tools anfreunden oder bin ich da ganz falsch unterwegs.
- [45:53]
A
OLAMA heißt natürlich, dass sie das lokal laufen lassen, das Modell bei ihnen auf dem Rechner, was natürlich im Moment mit erheblichen Einschränkungen verbunden ist. Also wenn man einen, klar hat den Vorteil, sie können damit mit vertraulichen Dokumenten arbeiten und sie brauchen das nicht auf irgendwelche Server hochzuladen in US, aber sie müssen sich natürlich auch klar sein, das ist ein Weltenunterschied an Intelligenz und an Fähigkeiten, die die Modelle, also wenn sie so was wie dieses Mythos Modell, dieses, wir haben das jetzt genannt, egal, also jedenfalls diese leicht kastrierte Variante von dem Mythos Modell, die da erschienen ist von Antropic, oder wenn sie das aktuelle Modell von OpenAI haben, dieses GPT, dann haben sie, das ist wie der Unterschied zwischen, sag ich mal, einem begabten Doktoranden und einem Praktikanten, der gerade sein Abitur gemacht hat oder so. Also das ist schon ein deutlicher Unterschied in der Qualität und Leistungsfähigkeit. Und natürlich, also gerade wenn sie so was wie diese agentischen Systeme haben, wie es im Moment gibt, also Codex zum Beispiel von OpenAI, da ist ja der Punkt schon vorbei, dass man einfach nur irgendeine Frage stellt und die dann beantwortet wird, sondern man gibt dem Ding einen Auftrag, also Schreib mir ein 50-seitiges Dokument, was dieses Thema abschließend oder ausgiebig diskutiert und suche alle Quellen, die du dazu finden kannst und behandle das für und wider, dann macht ihr das, dann schreibt er in Stunden oder zum Teil Tagen tagelanger Arbeit dieses Dokument und leistet dabei wahrscheinlich mehr, als ein Mensch in einem Monat leisten könnte. Und das ist ja, ich glaube, die meisten Leute haben noch nicht verstanden, wie gut das Zeug ist. Also das ist vielleicht so ein Punkt, wenn wir bei Medienkritik sind, in den Medien wird immer mit großer Begeisterung aufgegriffen, wenn irgendeine Studie rauskommt, wo festgestellt wurde, dass KI irgendetwas nicht kann. Diese Studien sind dann meistens zweieinhalb Jahre alt, weil der Veröffentlichungsprozess so lange dauert. Also wäre, wir reden dann eigentlich immer irgendwie über modelle von Anfang 2023 oder Mitte 2023 oder so. Und ich glaube, dass die dadurch unterschätzen viele Leute, die es noch nicht benutzt haben gewaltig die Möglichkeiten von diesen Systemen. Also generell zum Thema KI, was bedeutet das für die Welt? Was bedeutet das für den Arbeitsmarkt? Wie funktioniert das? Wie wir in einer Welt, wo wir intellektuell nur noch die zweite Geister. Ich kann mich nicht entsinnen, irgendeinen feministischen Beitrag dazu gelesen zu haben, der mich auch nur am Rande angesprochen hat oder interessiert hätte, der sich mit diesen Fragen wirklich ernsthaft auseinandergesetzt hätte.
- [48:49]
C
Machen wir es doch mal ganz praktisch. Was würden Sie denn Hörern, Zuschauern raten, wenn Sie jetzt gerne recherchieren wollen oder freiberuflich als Journalist arbeiten? Was wäre denn eine praktikable Variante? Wie viel muss ich investieren und welches System hat im Moment für die Recherche aus Ihrer Sicht die Nase vorn?
- [49:10]
A
Also ich würde, wenn Sie es nicht zu oft gebrauchen, dann kommen Sie wahrscheinlich mit dem Dollar Account von Entropic oder von OpenAI sehr weit. Also das eine ist dann Claude und Das andere ist ChatGPT in der Bezahlversion. Und bei diesem, wenn sie mit dem ChatGPT zum Beispiel sprechen oder wenn Sie dem schreiben, kann man immer einstellen, welches Modell er nutzen soll. Und Sie sollten unbedingt sicherstellen, dass er mindestens auf Thinking steht. Also man kann also beim Pro Account, den ich habe für 100 Dollar im Monat, kann man auch noch auf Pro stellen, das ist dann noch eine Stufe höher. Aber viele Leute nutzen das nur zum ChatGPT, aber stellen nicht auf Thinking. Und das führt dazu, dass man quasi dieses unrecherchierte Geplapper bekommt, wo er sofort antwortet, was sehr häufig nicht viel mit der Realität zu tun hat. Also deswegen unbedingt auf Thinking stellen. Das führt dazu, dass er meistens schon eine Minute oder zwei oder so braucht, aber dafür dann eben auch tatsächlich was recherchiert und eine brauchbare Antwort gibt. Und wenn ich professionell arbeiten würde im Journalismus und mir irgendwie leisten kann, würde ich mir wahrscheinlich tatsächlich die 100 Euro oder mehr als 100, glaube ich, wenn sie es umrechnen, aber um den 100 Dollar Account gönnen, weil das ist schon brutal, was der macht. Und dann eben immer nur im Pro Modus rechnen, wenn es die Zeit zulässt. Das ist in fast allem wahrscheinlich um Klassen besser, als was ein Absolvent eines akademischen Studiengangs bringen könnte an der Stelle.
- [50:52]
B
Wird es denn noch in drei oder vier Jahren so etwas wie diesen Podcast, dieses Gespräch ergeben oder wird das dann einfach von irgendeinem generativen KI erstellt worden sein?
- [51:07]
A
Naja, das ist eine Frage, das weiß ich nicht. Also ich tue mich ganz schwer damit im Moment Prognosen zu machen, über wie die Welt aussehen will. Ich habe mich schon immer ein bisschen schwer getan mit Prognosen. Ich habe mich einmal dazu überreden lassen, eine Prognose zu machen für die damalige wired. Die hat 2019 eine Serie rausgebracht von KI Experten über die Frage, wo KI im Wert 2029 steht. Das war 2029 war das Jahr, wo Ray Kutzwell schon seit fast 30 Jahren voraussagt, in dem Jahr haben wir eine dem Menschen gleichwertige oder überlegene künstliche Intelligenz. Die meisten haben ihn immer für vollkommene Idioten gehalten. Und Ich bin das 2018 gefragt worden, habe dazu also auch einen Artikel geschrieben dann für die Wild und da haben sie die Überschrift war dann etwas zugespitzt, war nicht von mir. In 2029 wird es keine KI geben, die diesen Namen verdient. Ich habe ich habe zwar richtig gelegen, was die Technologie angeht. Ich habe schon gesagt, okay, natürlich wird es Deep Learning sein und es wird eine Fortsetzung sein von dem, was wir schon haben. Damals gab es ja schon Google Translate und so. Es war schon ein bisschen erkennbar, wo es hingeht, aber ich habe das Tempo auch vollkommen unterschätzt. Also ich finde, ich hätte die große Summe Geld gegeben, dass ich das zumindest bis 2000 vielleicht wahrscheinlich bis 2035 es nichts geben wird in der Leistungsklasse von ChatGPT. Also da war ich sozusagen diesen Sprung habe ich überhaupt nicht gesehen. Deswegen bin ich jetzt wirklich vorsichtig, wenn es um Prognosen geht in dem Bereich. Ich habe übrigens damals auch schon den einleitenden Absatz, habe ich nur mich mit der Schwierigkeit von Prognosen in diesem Bereich befasst, weil eben sehr viele Prognosen vollkommen falsch waren, aber in die falsche Richtung. Also es gab ganz viele Leute wie der Minsky oder so, die schon Anfang der er Jahre geglaubt haben, dass das Thema künstliche Intelligenz in fünf Jahren gelöst sein würde oder so, was auch natürlich auch hanebüchener Unsinn war im Nachhinein und das auch vollkommen falsch. Und ich habe dann versucht vorsichtig zu sein aus dieser Lehre und lag dann wieder falsch, weil es eben doch viel schneller ging, als ich geglaubt hatte. Also Deswegen, ich guck mal, ich versuche mir ein Bild zu machen, was im Moment passiert. Es gibt sehr, sehr unterschiedliche Szenarien. Es geht von dem Szenario, dass die Welt untergehen wird, weil die KI alles über übernimmt und einfach viel schlauer ist als wir und nicht beherrschbar ist. Also zum Beispiel der Turing Award Gewinner Geoffrey Hinton vertritt so ein bisschen diese Ansicht, wobei es ein bisschen optimistischer klingt, der gemeint ist, vielleicht haben wir doch eine Chance noch zu überleben, aber so richtig überzeugend ist auch noch nicht. Und dann gibt es andere, die Naja, es ist nur so was wie das Internet oder so wie das iPhone und es wird sich nicht groß verändern und wir werden neue Arbeit finden und wir werden und das Leben wird eigentlich sehr schön werden und wir leben im absoluten Reichtum wie im Schlaraffenland, weil die KI alles für uns macht. Und das sind so die. Und da gibt es natürlich noch andere Szenarien, wie ja, die KI wird Biowaffen erfinden und anhand von Terroristen alle möglichen großen Schäden anrichten, wird Cyberangriffe ermöglichen, die wir uns noch gar nicht vorstellen können. Also auch ein von den durchaus realistischen Szenarien aus meiner Sicht, die auch in der praktischen Diskussion mit KI eine große Rolle spielen. Ja, es ist schwierig. Also das Einzige, wo ich mir ganz sicher bin, dass es nicht passieren wird, ist, dass das irgendwie wieder weggehen wird und dass wir dann schon, dass die menschliche Intelligenz dann schon noch irgendwie überlegen ist und wir haben noch besondere Fähigkeiten, die diese Maschinen nicht haben. Da glaube ich nicht dran.
- [55:00]
C
Wenn Sie so die Medienwelt als Konsument beobachten, Was sind denn, jetzt wird ja ganz viel rumexperimentiert mit der KI in den Redaktionsstuben und die einen überschätzen das Instrument, die anderen unterschätzen es. Was sind denn die häufigsten Fehler, die Ihnen so auffallen?
- [55:17]
A
Ja, also wie gesagt, für mich sind die meisten Artikel, die ich über KI lese, vollkommen trivial. Also im Sinne es geht um irgendwelche trivialen Aspekte. Was mache ich damit, wenn ich mich in mein KI Bot verliebe oder so Zeugs? Oder wie kann ich mein KI Bot einsetzen, um die Steuererklärung zu machen? Und stimmt das dann, was der gemacht hat und so Zeug? Das sind alles so, ja, ich meine, das sind ja ganz große Fragen, die da dranhängen die wahrscheinlich, wenn man auf X ist und den richtigen Leuten folgt, dann sieht man, was die Leute in Kalifornien und auch was dort von sehr ernsthaften Leuten, die sehr, sehr viel wissen über das Thema und die auch sehr, sehr intelligent sind, was die sich für Fragen stellen. Also wie funktioniert eine Gesellschaft, in der menschliche Intelligenz ersetzbar ist durch eine Maschine, die das nahezu kostenlos macht? Wie funktioniert Wertschöpfung? Wie verteilt man das Geld, was auf diese Art verdient wird. Das wird ja auch zum Beispiel von den CEOs der großen KI Firmen in Amerika durchaus sehr, auch erstaunlicherweise offensiv angesprochen. Also wir brauchen irgendwie sowas wie eine Art Einkommen für die Leute, die auf der Strecke bleiben werden durch diese Technologie. Also so eine Art Grundeinkommen oder auch der Elon Musk spricht von einem Grundeinkommen, was es braucht in so einer Welt. Und für Deutschland stellen sich natürlich noch ganz andere Fragen als in den USA, weil in den USA kann man sich vorstellen, dass man das Problem mit so einer Art Umverteilung hinbekommt. Wenn also die erfolgreichen Firmen wie OpenAI und Entropic und XAI und Google, die sitzen ja alle in den USA. Also da könnte man sich vorstellen, okay, wenn die richtig viel Geld machen damit und das dann wieder den Leuten zufließt über den Staat, dann kann man das vielleicht irgendwie, da kann da tatsächlich der absolute Wohlstand aus. Für Deutschland ist es schwieriger, weil wir haben weder die Technologie noch die Energie, die man bräuchte überhaupt, um solche Rechenzentren zu betreiben. Und das heißt, das, was heute ein Software Engineer in Deutschland verdient, wenn der tatsächlich ersetzbar wird durch so eine KI, dann fließt ja das Geld erstmal nach Amerika, ist also gar nicht so leicht davon, was hier festzuhalten und es an die Leute zu verteilen, die dann keine Arbeit mehr haben. Das sind so die Fragen, über die ich seit ein paar Jahren nachdenke und wo ich extrem wenig darüber in der Zeitung lese. Ich glaube, die Fragen stellen sich sehr kurzfristig.
- [57:56]
B
Die Frage, haben wir denn noch die Journalisten, die diese Fragen stellen und diskutieren können? Also Deutschland hatte ja mal in den er Jahren, sagten dann auch die amerikanischen Kollegen, einen sehr gut ausgebauten, sehr gut ausgebildeten Technikjournalisten, gerade mit ihrer Kritik, die ich gerade so gehört habe an der Berichterstattung über KI, Wenn es dann doch eher um mich verliebig in eine KI oder sowas geht, scheint das ja nicht mehr der Fall zu sein. Können wir da noch was ändern oder ist das einfach so ein hinnehmbares Schicksal?
- [58:25]
A
Ja, aber ich bin gar nicht sicher, ob es in dem Fall so, dass den Fachjournalisten sozusagen, den es ja kaum mehr gibt, also gerade im Computerbereich oder so, ist ja vieles einfach nur liegt, ist wahrscheinlich nicht mehr finanzierbar. Aber das sind ja noch größere Fragen, wo man glaube ich, so Leute bräuchte, die, also so wie den Schirrmacher oder so, so Leute, die ein bisschen über Nische hinausdenken, die wirtschaftliche und die politische und die global politische Welt zusammenbringen können. Mit dieser technologischen Perspektive, dass der Mensch sozusagen ersetzbar wird oder zumindest seine kognitive Leistungsfähigkeit ersetzbar wird. Da braucht man, glaube ich, so ein bisschen traditionell würde ich sagen, das muss irgendwie der Herausgeber von den großen Zeitschriften sein, der diese Debatte überhaupt mal eröffnet, weil aus der Politik kommt ja nicht. Also da wird über das Rentenniveau 2045 diskutiert, ob das drei Punkte höher ist oder niedriger. Ich habe keine Ahnung, wie der Arbeitsmarkt in fünf Jahren funktionieren wird. Also ich finde das immer sehr optimistisch. Da wird einfach der Status quo sozusagen extrapoliert und ich glaube, wir stehen an einer Schwelle, wo das nicht mehr funktionieren wird.
- [59:43]
C
Ich bin ja mal völlig verblüfft. Auf der einen Seite heißt es, wir brauchen Masseneinwanderung nach Deutschland, um die soziale Sozialsysteme zu sichern, weil wir eben durch die Demografie sonst ein Riesenproblem bekommen. Auf der anderen Seite heißt es eben, wir bekommen Massenarbeitslosigkeit durch den technologischen Fortschritt. Also da passt für mich irgendwas nicht zusammen. Aber vielleicht habe ich auch was verpasst. Also Prognosen sind ja irgendwie immer schwierig in die Zukunft. Ich erinnere mich aber auch daran, dass es schon immer Versprechungen gab, ja auch in den vergangenen Jahrzehnten mit technologischem Fortschritt, dass wir jetzt dann alle arbeitslos werden oder dass wir übernommen werden von Maschinen. Und ganz so ist es ja nie eingetreten, auch wenn natürlich unsere Freizeit kontinuierlich zugenommen hat, das ist ja nachgewiesen. Trotzdem fühlen wir uns alle immer noch gestresst und arbeiten wie verrückt. Also wie sicher sind Sie denn, dass wir tatsächlich dann, dass die KI das ändern wird.
- [60:54]
A
Also ich bin nicht sicher, dass das so kommen wird, dass wir alle arbeitslos sind. Es ist sozusagen, die Idee ist, es gibt, nehmen wir an, es gibt das, was in Amerika AGI genannt wird. Die übliche Definition ist, das Ding kann alles, was ein Mensch kann. Also alles, Insbesondere, also die OpenAI Definition, das ist, kann jetzt jeglichen Computerarbeitsplatz übernehmen, Also sozusagen jegliche reine Computerarbeit ersetzen und automatisieren. Also nicht nur Callcenter, sondern auch der typische Ingenieur, der am Schreibtisch sitzt und irgendwas entwickelt oder der typische Mathematiker. Also den klassischen Schreibtischjob kann man setzen, dann spricht man von AGI. Und wenn man dann
- [61:43]
B
jetzt kann man
- [61:43]
A
natürlich sagen, okay, es hat sich immer wieder ein neuer Job gefunden, als das Internet gekommen ist, sind neue Berufe entstanden, zum Beispiel Search Engine Optimizer, die gab es vorher nicht. Aber wenn es diese AGI gibt, dann kann die ja jeden Job ersetzen per Definitionen. Also wenn ich jetzt sozusagen, keine Ahnung, Euro im Jahr verdienen will für irgendeine Tätigkeit und ChatGPT erledigt das für 100 Euro, dann muss ich ja irgendwie diese Euro Unterschied rechtfertigen. Und wenn es AGI gibt, dann ist das ja sofort naheliegend, dass ich genau das, was diesen Unterschied ausmacht, auch noch automatisiere. Sonst ist es keine AGI. Das ist das Problem bei der Geschichte. Jetzt könnte man natürlich alle sagen, okay, dann werden wir alle Handwerker. Ich habe irgendwie schon, als ich ChatGPT ausprobiert hatte, ein paar Tage lang habe ich einen Tweet geschrieben, Handwerk hat goldenen Boden, weil man das sozusagen schien mir erstmal der verbleibende Ausweg. Aber auch da gibt es natürlich inzwischen mit der Robotik, die macht Fortschritte, die ist noch lange nicht so weit, dass sie Installateur oder so ersetzen könnte. Also da fehlt es noch an allen Ecken und Enden. Also ich glaube, wir haben zumindest auf einige Jahre sind handwerkliche Tätigkeiten auf jeden Fall nicht automatisierbar. Aber es heißt eben, was im Moment wirklich bedroht Es ist der klassische Schreibtischjobs, der auch keine große Interaktion mit Menschen hat. Also zum Beispiel bei Ärzten oder so mache ich mir keine großen Sorgen. Natürlich ist KI viel besser als jeder Arzt, was Diagnostik angeht, aber trotzdem braucht man irgendwie noch einen Menschen, der einem den Blutdruck misst und der einem gut zuredet. Und was so ein bisschen, also ich glaube der computerisierte Arzt, der voll computerisierte, der wird so schnell nicht kommen. Und bei vielen anderen Berufen ist es auch so, dass der menschliche Aspekt noch irgendwie eine Rolle spielt. Aber da, wo das nicht der Fall ist, glaube ich, wird radikal, wenn diese Jobs automatisiert werden. Und die Firmen, die das nicht machen, die werden ersetzt durch Firmen, die von vornherein so gebaut wurden, dass sie diese Produktion gar nicht brauchen.
- [63:56]
B
Das heißt, der Journalist kann dann auch nur überleben, indem er tatsächlich sehr stark den Kontakt zu seinem Publikum sucht, mit denen gemeinsam Geschichten entwickelt und eben das macht, was eben noch nirgendwo steht, oder?
- [64:11]
A
Genau, also er muss recherchieren. Das ist die eine Möglichkeit. Also wenn ich tatsächlich Leute anrufe und mit denen spreche und pipapo, das ist so schnell nicht automatisierbar. Wenn mich irgendein Automat anruft, mich was fragt, werde ich wahrscheinlich wieder auflegen. Also habe ich auch keine Lust drauf. Also es müsste schon, wer wirklich recherchiert, ist auf jeden Fall nicht ersetzbar. Und man hat eben, man baut diesen menschlichen Aspekt auf, dass ich sozusagen als Person irgendwie auftrete, gewisse gewisse Figur schaffe, die ich dann wiederholt in meinen Artikeln verwende und die Leute erinnern sich an mich und wollen vielleicht spezifisch den Artikel lesen, weil mein Name drüber steht. Also das ist, glaube ich, so eine Art Marke zu werden. Das ist, glaube ich, kann ich mir auch gut in einer Welt mit allgemeiner künstlicher Intelligenz vorstellen, dass ich trotzdem irgendeinen Journalisten sympathisch finde und sein Zeug lesen will.
- [65:01]
C
Sie haben vorhin eine Reihe von Fragen aufgeworfen, die im Zusammenhang mit der KI stehen und wo Sie denken, es lohnt sich darüber nachzudenken. Für mich wäre noch einer, aber vielleicht bin ich da auch auf dem Holzweg. Wer programmiert das? Also irgendjemand hat ja sozusagen die Hebel in der Hand, das zu steuern, was wir wie lesen sollen. Und das ist ja, wenn ich das richtig verstehe, sind es ja nur wenige Menschen oder ist es leichter auch manipulierbar? Ist das eine Gefahr oder sehen Sie das aus Demokratiegesichtspunkten nicht als Problem an?
- [65:35]
A
Ja, sozusagen das Szenario, dass es eine Firma gibt, die sozusagen eine KI baut, die alles kontrolliert, ist natürlich sehr, sehr schwierig. Also wenn sich da ein Monopol bilden würde und das ist wirklich ein dystopisches Szenario, dass sozusagen alles, was auf der Welt an Intelligenzleistung passiert, in einem Server irgendwo passiert von einer Firma und diese eine Firma auch noch alles kontrolliert. Im Moment ist die Entwicklung nicht so. Also wir haben mindestens vier Firmen, die einigermaßen auf dem gleichen Niveau sind, die Konkurrenzprodukte anbieten, wo sie die auch sich preislich Konkurrenz machen, die sich leicht unterscheiden in ihren Fähigkeiten. Und wir haben natürlich die Chinesen mit ihren Open Source Modellen, die auch nur wenige Monate hinterher sind. Also die Gefahr der Monopolisierung sehe ich im Moment nicht. Also wir haben, ich glaube, KI wird schon, es wird immer, wahrscheinlich wird es immer mehrere Anbieter geben und jeder, der sich jetzt zu stark irgendwie einmischen würde oder der zu stark kontrollieren will, was die KI macht, der wird sofort vom Markt verschwinden. Ein schönes Beispiel haben wir im Moment mit diesem Mythos Modell von Antropic, wo die jetzt aus Angst davor, dass dieses Modell Biowaffen erfindet oder Cyberangriffe unterstützt, das Modell sehr, sehr stark eingeschränkt haben. Also wenn man dem irgendwas, wenn man das irgendwas fragt, was mit Biologie zu tun hat, denken kann ich nicht, du kriegst jetzt nur noch das dümmere Modell, aber das gibt es so ein Backlash gerade. Also alle sagen, ey, ein Traffic, das könnt ihr nicht machen. Und ich glaube, diese Konkurrenzsituation finde ich im Moment ganz angenehm. Dadurch ist, glaube ich, die ein bisschen, also zumindest eine der möglichen Gefahren von KIs auf die Art, auf absehbare Zeit zumindest, zumindest für mich nicht erkennbar. Es kann natürlich auch sich ändern. Also ein Szenario ist, dass wir, was immer wieder auch erwähnt wird, auch in den Börsenunterlagen von Entropic zum Beispiel und OpenAI, es nennt sich Recursive Self Improvement, also die Idee, dass so ein KI Modell irgendwann so gut wird, darin KI Forschung zu machen, dass es eben besser ist als die Forscher selbst, die das im Moment machen. Das sind alles Leute, die vielleicht siebenstellige Beträge im Jahr verdienen. Also das sind wirklich die Besten der Besten der Besten, die in diesen Firmen arbeiten. Aber in dem Moment, wo diese Modelle mal besser sind als diese Forscher und sich sozusagen selbst verbessern können, deswegen rekursive Selbstverbesserung, könnte es trotzdem noch passieren, dass eine Firma sozusagen einen kleinen Vorsprung in einen gigantischen Vorsprung ausweitet, dadurch dass, dass nur diese Firma Zugriff auf dieses leistungsfähige Modell hat, was sich dann selbst wieder verbessert. Deswegen ist auch dieses Monopol Szenario für mich noch nicht ganz so vom Radar verschwunden.
- [68:38]
B
Ja, dann hoffen wir mal auf eine multilaterale Welt, sodass zumindest aufgrund von geopolitischen Vorgaben diese Monopolstellung weltweit eben nicht eintreten kann. Herzlichen Dank, Herr Prof. Gallwitz. War ein spannendes Gespräch.
- [68:50]
C
Gerne, Genau, herzlichen Dank und herzlichen Dank auch fürs Lauschen. Wenn ihr uns einen Gefallen tun wollt, dann abonniert doch den Kanal, empfehlt ihn weiter, kommentiert die Folge und ansonsten bleibt uns gewogen.
- [69:06]
B
Tschüss.