Nach Manifest kommt ab (mit Ralf Heimann)

00:00:00: Hallo Ralf!

00:00:01: Hallo Gavin.

00:00:02: Bei

00:00:02: mir ist heute Ralf Heimann, Journalist, Chefredaktor oder Mitgründer von Rumms.

00:00:07: Das kann ich gleich nochmal erklären?

00:00:08: Ich weiß gar nicht ob man Rumms sagt und bei meinem Kopf klingt das immer so.

00:00:11: Kolumnist beim Altpapier, beim MDR, Medienbeobachter... Und eigentlich eine Schande, dass es sechshundertdreizehn Episoden gebraucht hat bis wir beide hier endlich mal zusammen eine Episode Haken dann aufnehmen.

00:00:23: Ja tatsächlich.

00:00:25: Aber ich freu mich umso mehr, dass du mich einletzt.

00:00:28: Also ich wollte noch kurz was zu Rums sagen, weil das so... Ich kämpfe hier in diesem Podcast glaube ich sehr häufig und oft dafür dass man an den Lokaljournalismus glaubt.

00:00:38: Und ihr habt das eigentlich in Münster?

00:00:40: Rums ist wenn ich es richtig verstehe rund um Münster oder?

00:00:43: Nee das heißt eigentlich gar nichts.

00:00:45: also nur so ein Geräusch Rums.

00:00:48: Aber das, also das ist oft schon missverstanden worden.

00:00:50: Die Tats hat das irgendwann mal aus Versehen geschrieben und dann haben viele das übernommen... ...und am Ende haben wir dann vereingegründet der Rotumbünster heißt.

00:00:59: Ach so!

00:01:01: Aber wir heißen einfach Rums.

00:01:03: Wachst du einmal in allem Satz erklären was ihr tut?

00:01:05: Ja wir verschicken Newsletter und wir machen Lokaljournalismus

00:01:08: Und ich finde das ist doch geil.

00:01:10: Also weil während du irgendwie in den ... großen Häusern überall den Rückzug aus dem Lokal siehst und sich das zurückbesinnen auf manche Redaktionen.

00:01:19: Glaubt ihr daran, dass es eben für die Leute von Bedeutung ist was vor ihrer Haustür passiert?

00:01:25: Und ich würde diese Einschätzung mitgehen!

00:01:27: Ja also wir machen das jetzt seit sechs Jahren... ...und ich glaube das wird auch immer wieder bestätigt.

00:01:34: Ich muss mit dir heute direkt in so ein Thema reingehen weil mich das so nicht losgelassen hat.

00:01:38: Meine ganze Timeline ist voll von zwei Dingen.

00:01:40: Das eine ist die Fridge Cigarette.

00:01:42: Weißt du was das is'?

00:01:44: Nein, noch nicht.

00:01:46: Also ich will mich übertreiben.

00:01:47: aber jedes zweite Video auf meiner Startseite, auf meiner For You wie sagt man denn bei Instagram und beim Newsfeed ist die Fridge Cigarette und die Frige Cigaret ist ein Espresso aufgeschüttet mit Cola und dann etwas Vanillemilch drauf.

00:02:04: Ganz fantastisch!

00:02:05: Ich versuch's mir gerade vorzustellen Und das hast du selber schon probiert?

00:02:10: Ich werde es morgen mal probieren und dann kann ich Freitag berichten.

00:02:14: Ich auch

00:02:15: Okay, dann kannst du mir eine Sprachnacht schicken wie es dir geschmeckt hat.

00:02:18: Dann spielen wir das hier ab!

00:02:19: Das ist das eine und das andere war wenn ihr das hört gestrigen Dienstag dass sehr viele Leute sich über Julia Klöckner auslassen möchte ich mal sagen was passiert?

00:02:31: Julia Klökner hat ein Bild gepostet und dieses Bild ist ganz offensichtlich komplett KI generiert auf dem sie es zu Sie umkreist von vier natürlich kompletten weißen Kindern, die so gemeinsam in die Kamera schauen.

00:02:46: Sie selber ist es eine freie Interpretation der KI.

00:02:50: von ihr würde ich sagen darüber steht alles Gute zum Schulstart viel Freude Neugier und Erfolg.

00:02:56: Und daneben hat sie so Dinge geschrieben wie nach den Ferien geht das bei uns in Rheinland-Pfalz wieder los.

00:03:00: Vielfach neue Klassen, neue Fächer, neue Freundschaften bla bla bla.

00:03:04: Dieses Foto wurde mit KI generiert.

00:03:06: Es steht klein in der Caption nicht auf dem Bild selber.

00:03:08: Hast du diesen Post gesehen?

00:03:09: Was sind deine Emotionen zu diesem Foto?

00:03:13: Ich habe das gesehen tatsächlich und ich hab mich gefragt, warum macht man so was.

00:03:18: Also es ging ja auch darum dass ein Künstler sich beschwert hat weil die Ministerin quatscht die Bundestagspräsidentin so ein KI-generiertes Bild verwendet hat um keine echten Fotos.

00:03:29: aber also die eigentliche Frage ist ja das ist ja irgendwie so einen Phänomen dass man auf den ersten Blick manchmal denkt das sieht ganz gut aus und je länger man sich diese KI Bilder anschaut kloppt, da ist es und das Schlechte auch sieht irgendwann so aus wie bei Themu bestellt.

00:03:43: Und ich frage mich wirklich also möchte man als Politikerin so wirken?

00:03:51: Weil das ist ja immer ein bisschen wie eine gemachte Wirklichkeit.

00:03:58: Ich mache mir die Welt so wie sie mir gefällt und das sieht nach einer ganz unglaubwürdigen Idylle aus Denkt, dass Politiker ja eigentlich sehr viel Wert auf ihre Glaubwürdigkeit legen.

00:04:10: Dann löst das in mir Verwunderung aus!

00:04:14: Welche Gesellschaft soll das bitte abbilden?

00:04:16: War mein erster Dank.

00:04:17: Weil auch das, wie du schon sagst ist so dieses Wunschkonzert... Und dass sie halt natürlich dann auch nur von wirklich sehr weißen Kindern umkreist ist, auch das finde ich sehr verräterisch von ihrem Blick auf die Welt und auf das Deutschland in dem wir eigentlich gemeinsam leben wollen.

00:04:32: In all seiner Bundheit und all seinen Facetten und all der Vielfalt, die wir eben hier eigentlich vorzuweisen haben – und das überträgt sich überhaupt nicht über diesen Post-Hit aber du hast es eben schon angesprochen!

00:04:42: Mehrere Leute haben sich beschwert und zwar in den Kommentaren darunter, die mittlerweile alle weg sind und auch deaktiviert sind.

00:04:49: Man kann es nicht mehr kommentieren, aber als die Kommentare noch eingeschaltet waren haben mehrere Menschen darunter geschrieben wie zum Beispiel der Künstler Oliver Schäfer, der sich beschwert hat darüber dass er als künstler dessen Arbeit eben von KI stark bedroht ist das er sich wünschen würde dass mensch in einem öffentlichen amt sich anders verhalten weil eben offensichtlich seine identität dadurch bedrohte wird Er nicht mehr solche Aufträge kriegt, sondern es als ein Computer macht.

00:05:16: Und was Julia Klöckner aber gemacht hat ist diese Kommentare zu löschen oder ihr Team Diese Kommentare zu lösen und die Urheber dieser Kommentare zu blockieren.

00:05:25: Also es gibt wirklich fünf sechs sieben Leute die ich allein auf meiner Startseite hatte Die gesagt haben Heute hat mich die Bundestagspräsidentin auf Instagram blockiert.

00:05:33: Ich kann nicht mehr sehen, was sie postet weil Sie ein Problem damit hatten dass ich kritisiert habe und also ... Die Kommentare waren jetzt nicht beleidigend oder in irgendeine Maße unzumutbar sondern es waren halt Menschen die gesagt haben das ärgert mich dass das Yankee generiertes Bild ist Und daraufhin wurden die halt blockiert.

00:05:51: Was so uncool... Also jetzt mal unabhängig von vielen anderen Ebenen über die wir gleich noch sprechen können So uncool isst im Miteinander dass es einem eigentlich die Hand vor die Stirn schlagen lässt.

00:06:04: Ja, ich finde es immer so schwer zu sagen das ist ein offizieller Account.

00:06:08: man wüsste ja immer ganz gerne was da passiert ist im Hintergrund.

00:06:11: ob da jetzt gab doch neulich mal diese Geschichte mit Friedrich Merz wo angeblich irgendwer noch spät im Bundeskanzleramt saß und irgendwas in der Fußball-Weltmeisterschaft irgendwas gepostet hat Und hier auch... Das sieht tatsächlich so aus als wenn jemand so im Stil von Carsten Lindemann einfach mal machen dann nachher sehen, das war jetzt gar nicht so gut.

00:06:33: Ja, hundertprozentig!

00:06:34: Das Interessante ist aber dass sie also ob das jetzt ein öffentlicher Account ist und nicht das können wir uns gleich mal auseinander dröseln weil die Frage ist halt tatsächlich wer spricht hier?

00:06:45: Ist es die Bundestagspräsidentin Julia Klockner?

00:06:49: Politikerin Julia Klöckner ist der Privatmensch, Julia Klökner.

00:06:52: Der ist nicht der Account Add Bundestagspräsidenten sondern der Account add Julia Klölkner.

00:06:57: Ah ja genau die hat mehrere ne?

00:06:58: Die hat sogar ihr Hund hat einen!

00:07:00: Wirklich?!

00:07:01: Ja ich glaube wohl.

00:07:03: Bello Klöknar auch.

00:07:06: Naja auf jeden Fall steht in dieser... In der Bio von ihrem Account steht dass das der Account der Bundestagspräsidenten ist, die hier persönlich und als Abgeordnete unterwegs ist Und demnach bezieht sich auch das Büro von Julia Klöckner aus der Verantwortung und sagt, es liegt nicht innerhalb unserer Arbeit.

00:07:24: Wir können da nichts tun.

00:07:25: Also das Bürow der Bundestagspräsidentin und das Team des Deutschen Bundestages die sagen, da haben wir nix mit zu tun.

00:07:33: Ihr eigenes Büro aber in Rheinland-Pfalz, dort wo ihr sitzt.

00:07:36: Da wird das Ganze ein bisschen anders diskutiert.

00:07:38: der wird gesagt KI Inhalte gehören zum social media mittlerweile dazu.

00:07:45: es ist mittlerweile üblich und wird auf zahlreichen Kanälen praktiziert.

00:07:48: Das sagt das Büro von Julia Klöckner und weiß diese Kritik zurück warum sie dann aber nicht auf die Diskussion eingegangen ist sondern sich tatsächlich eher so verhalten hat dass Menschen im blockiert.

00:07:59: Das wird nicht weiter kommentiert von dem Team.

00:08:03: Es ist aber auch jedes Mal wieder das Gleiche, ne?

00:08:06: Also es wird ja gern gemacht und ich glaube vor allem Menschen mit so einer großen Reichweite und so einer Wirkung die dann zu leichtfertig Sachen löschen einfach damit sie nicht mehr gesehen werden, die landen immer wieder an der Stelle wo man den Streisand-Effekt bei Wikipedia nochmal nachliest.

00:08:19: also wahrscheinlich hätte niemand von diesem Posting erfahren Aber jetzt wissen's alle!

00:08:24: Und jetzt noch mehr.

00:08:25: wie

00:08:25: hundert Prozent?

00:08:27: Das ist hundertprozent so.

00:08:28: Interessantes, aber es gibt zum Beispiel Ember-Remember.

00:08:31: Ember Remember ist eine Person die sich anmaßt für die Queere Community zu sprechen, wenn ich das richtig verstehe?

00:08:41: Ich will hier nichts Falsches sagen, deswegen google ich das gerade als Track Queen und Performerin.

00:08:46: So ist die richtige Formulierung von Ember Remembers.

00:08:48: Die hat ungefähr viertausend Followerinnen und auch sie wurde von Julia Klockner blockiert und die hat jetzt eine spannende Frage reingeworfen Was ist denn eigentlich mit dem Gleichbehandlungsgebot?

00:08:57: Also, ist es legitim, dass eine Politikerin die auch gewählt werden möchte und die in einem Amt und Würden ist und damit auch eine gewisse Öffentlichkeit erträgt.

00:09:06: Kann die einzelne Bürgerinnen davon ausschließen an ihrer Kommunikation zu partizipieren?

00:09:13: Das ist für mich ne sehr interessante Frage.

00:09:14: an den Punkt

00:09:16: Ich könnte mir vorstellen das bei dem Privat-Account schon geht.

00:09:19: Bei dem anderen wäre es wahrscheinlich kritischer Aber ich

00:09:21: weiß nicht Wenn Sie hier als Abgeordnete unterwegs sind... Unklar müsste man mal so ein bisschen sich mit auseinandersetzen.

00:09:27: Es gibt aber noch die Ebene AI-Act und auch das ist eine interessante Ebene, ich will da vorher nur ganz kurz was reinschieben... ...und zwar das Thema Werbung!

00:09:36: Uns hat mehr jemand geschrieben oder näh, es hat jemand öffentlich im Fiddiverse auf Masse dann geschrieben, dass hier in diesem Podcast auch KI generierte Werbespots laufen und diese Person hat deswegen aufgehört diesen Podcast zu hören Und das natürlich ihr gutes Recht?

00:09:49: Das kann sie machen.

00:09:50: Ich wollte nur noch einmal, ich habe das hier schon paar Mal gesagt, aber ist mir trotzdem wichtig zu sagen Ich hab da keinen Einfluss drauf.

00:09:55: Ich habe weder Einfliss darauf, wer diese Werbespots produziert noch wie sie produziert werden und ausgewählt werden.

00:10:01: Und das ist gut und Grund!

00:10:02: Wir haben hier bei Heise eine sehr strikte Trennung von Redaktion- und Verkaufvermarktung... ...und ich weiß davon gar nichts.

00:10:08: Das einzige was ich weiß es an welcher Stelle im Podcast die Werbung läuft.

00:10:12: mehr habe ich damit nicht zu tun.

00:10:14: Das heißt ich weiß auch erst was hier für Werbung geläuft wenn ihr mir sagt was da für Werbungen gelaufen ist.

00:10:19: Es kann auch passieren dass jeder höre eine unterschiedliche Werbung einen unterschiedlichen Spot hört.

00:10:23: Aber ich kann da nichts für, wenn ein KI-Werbespot läuft.

00:10:26: Dann deal with it leider.

00:10:32: Thema AI Act, genau weil gekennzeichnet werden muss und zwar sagt der AI Act das bei der ersten Exposition klar und unterscheidbar wahrnehmerunverständlich sein muss.

00:10:43: dass es sich dabei um ein KI generiertes Bild handelt ist hier nur so Mittel der Fall, würde ich sagen.

00:10:50: Also man hat diesen KI-Info-Button bei Meter gedrückt das es unter dem Namen steht und in der Caption steht diese Foto wurde mit KI generiert.

00:10:57: Wenn nicht dieses Bild aber jetzt immer in einer Story teile dann steht das plötzlich nirgendwo mehr.

00:11:02: heißt also ob dass ja am Ende ein rechtssicherer Weg ist.

00:11:05: Das könnte sich theoretisch auch mal ein Gericht anschauen, weil eigentlich die EU-Kommission vorschlägt eine Kennzeichnung direkt auf den Bild vorzunehmen mit einer kleinen Markierung dieses Bildes als KI generiert in dem Fall.

00:11:18: Und das deswegen interessant war, Julia Klöckner hat sich sehr stark und sehr laut dafür eingesetzt, dass doch KI-generierte Inhalte bitte auch als solche zu kennzeichnen sind?

00:11:27: Das kann jetzt an meinem Stream liegen oder... an dem was ich so sehe, aber ich habe das jetzt auch noch nicht so wahnsinnig oft gesehen.

00:11:34: Also das liegt bestimmt auch ein bisschen daran dass man denkt na es ist jetzt gerade neu und wir machen jetzt erst mal und es wird schon nichts passieren ne?

00:11:43: Aber durch solche Fälle er spricht sich das dann herum.

00:11:47: Naja und der Unterschied ist halt selbst wenn es nicht ihr Amtsaccount ist es definitiv kein privater Account sondern sie hat entweder ein gewerbliches Ziel oder einen öffentlichen Zweck und in den Moment hat sie eine Kennzeichnungspflicht.

00:12:00: Und wie gesagt, es ist noch nicht ganz gerichtlich entschieden.

00:12:03: Ob das so ausreichend ist?

00:12:04: Ich würde nur sagen für jemanden der da so lautstackend getrommelt hat hätte man's noch ein bisschen deutlicher kennzeichnen können ehrlicherweise.

00:12:09: Wobei vielleicht hatte man Angst vor den Kommentaren und wollten auch nicht zu viele Leute blockieren.

00:12:13: Man weiß es nicht!

00:12:15: Es sieht ja auch noch zusätzlich beknackt aus zu diesem Bild.

00:12:18: und wenn dann da auch noch so'n Button draufzusehen ist.

00:12:23: Dann muss man vielleicht doch mal ein paar Euro in die Hand nehmen und nen Grafiker bezahlen.

00:12:27: Vielleicht

00:12:27: ist das am Ende dann der Grund warum er dann doch einen Fotografen engagiert.

00:12:32: Ich find das gut, ich werd es genau richtig zu sagen.

00:12:35: Das ist so ein bisschen ... Ich hab mal kleine persönliche Anekdote.

00:12:39: Ich habe vor vielen Jahren aufgehört zu rauchen und hatte so ein paar Freunde und die haben alle an diesen elektrischen Zigaretten, an diesen Vapes gehangen.

00:12:48: Und ich fand das unfassbar uncool!

00:12:50: Ich find's super, mag ich überhaupt nicht diese elektrische Plastikdinger.

00:12:54: Dann hab' ich mir eine gekauft weil ich genau wusste, dass jetzt mein Rauch-Substitution.

00:13:00: Aber ich will damit nicht gesehen werden.

00:13:02: Also werde ich das nicht benutzen, also rauche ich nicht mehr und es hat funktioniert!

00:13:05: Ich habe in der Hand von drei Tagen aufgehört.

00:13:07: Ich hab da witzigerweise die gleiche Geschichte erlebt bei mir... Das ist ein bisschen länger gedauert aber mit den Dingen habe ich mir das auch abgewöhnt.

00:13:15: Weil man sich so schämt?

00:13:16: Vielleicht

00:13:17: haben wir hier gerade nur das Prinzip entdeckt.

00:13:19: Ja, das Prinzip ist scham.

00:13:20: Wir gewöhnen

00:13:20: uns jetzt Instagram ab

00:13:25: oder?

00:13:25: ich weiß auch nicht.

00:13:27: Ich hab vielleicht eine Geschichte, die dabei hilft sich Instagram abzugewöhnen.

00:13:30: Und zwar geht's in Mark Zuckerberg.

00:13:32: Mark Zuckerburg hat ein Manifest verfasst und wenn Leute einen Manifests schreiben dann muss man immer erst mal überlegen was ist die Motivation?

00:13:41: Das ist nicht das erste was Mark Zuckerberg verfasst hat aber hier geht es um KI und dieses Manifeste läuft unter dem Titel Die Zukunft gehört allen The future is for everyone.

00:13:52: Das ist der Name des Manifestes und du hast mir geschrieben, du hast das tatsächlich gelesen?

00:13:57: Ja, tatsächlich!

00:13:57: Ich habe das heute Morgen gelesen... Wusste noch nicht, dass es sich wahrscheinlich nicht gelohnt hat.

00:14:03: Aber ich hatte heute Morgen so ein Newsletter gelesen und ich habe das hier von Alex Heath, so einen Tech-Journalist Und der hat geschrieben.

00:14:11: am Wochenende rief mich Mark Zuckerberg über seine Metabrile an während er über das Wasser zu seinem Angelplatz raste.

00:14:16: Die Geräuschunterdrückung hielt erstaunlich gut gegen etwas anders wie ein Windkanal klang.

00:14:20: Bevor er ankam wollte er mir erklären Sein Mann die fest erklär nachdem er seinen eigenen Angaben im vergangenen Ein oder zwei Monaten geschrieben hatte.

00:14:30: Da hatte ich dann richtig Lust, da hab' ich's gelesen.

00:14:32: Und was ist hängen geblieben?

00:14:35: Schilder mal so nach... So vom Vibe her!

00:14:37: Was ist doch dein

00:14:38: Gefühl?!

00:14:41: Also man hat die ... Am Ende wenn man es gelesen hat und die ganze Zeit versucht hat sich darüber Gedanken zu machen, was das so sein soll, dann bleibt ein bisschen hängen glaube ich dass das eine komische PR Erzählung ist.

00:14:55: also es wird versucht alles irgendwie gut zu frame oder in so ein gutes Licht zu stellen, auch natürlich Meta und Mark Zuckerberg selbst erzählt private Dinge über seine Tochter.

00:15:07: Da hatte man so ein bisschen das Gefühl, dass auch alles natürlich total kalkuliert ist.

00:15:12: Dass man weiß, dass das alles was mit KI zu tun hat jetzt gerade nicht so beliebt ist und dass man dann vertrauen schaffen will.

00:15:18: Erzählte so Geschichten davon, dass man mithilfe von KI auch Krankheiten heilen kann.

00:15:23: Und dass man eine Tochter beispielsweise macht ganz tolle Sachen programmiert mit Computer oder mit Robotern und so... das erzählt er so.

00:15:33: und was ich so bemerkenswert finde ist dieses komische menschenbild dahinter dass es für mark sackerböck offenbar total erstrebenswert ist, dass man alles in seiner umgebung automatisiert.

00:15:43: Also das dachte dann immer so Ich kenne es immer so, wenn man in der Sauna ist dann legt man das Telefon in so einen kleinen Schrank und am Ende fühlt man sich einfach deshalb gut weil das Telephone den ganzen Tag im Schrank gelegen hat.

00:15:56: Aber Mark Zuckerberg würde es wahrscheinlich umgekehrt machen also er würde in der saune auch noch wahrscheinlich irgendwelche Aufgüsse und abtrocknen und so automatisieren weil das ihm glücklich macht.

00:16:06: aber ich kann mir nicht vorstellen dass bei vielen Menschen auch so ist.

00:16:10: Sehr seltsame Erzählungen.

00:16:11: Ja, das ist ein ganz faszinierendes Ding aus vielen Gründen!

00:16:14: Wir haben... Ich möchte kurz eine kleine Zeitreise machen und zwar in die vorletzte Woche.

00:16:18: ist es.

00:16:20: Und da geht es... Also es war die Episode ... Das Ende der Welt oder das Ende vom Geld?

00:16:26: In dieser Episode haben wir über etwas gesprochen einen Gastbeitrag von Mark Zuckerberg im Wall Street Journal.

00:16:31: Und in diesem Text, der dort veröffentlicht wurde, deutlich kürzer ist, das Manifest von heute also gestern hat sechstausend Fünfhundert Wörter.

00:16:38: Das ist also wirklich viel, viel Text.

00:16:40: Und dieser Gastbeitrag im What's The Journal war erheblich kürzer und ich habe so ein bisschen das Gefühl dass die Journalistinnen bei What's the Journal sehr viel raus redigiert haben wie wir sagen.

00:16:52: Also sehr viel gesagt, wenn wir kürzen lassen mal ein bisschen zur Lesbarkeit ins Verständnis und so... ...und er sich aber gedacht hat ne ich hätte es jetzt aber gern schon noch immer im Original, im Director's Cut veröffentlicht und hat deswegen das jetzt nochmal selber über seine Kanäle publiziert.

00:17:06: Ist ein bisschen mein Gefühl, oder?

00:17:08: Also ich weiß nicht ob du die What's The Journal Version auch kennst aber viele Passagen decken sich.

00:17:13: Es ist alles sehr ähnlich Auch die Struktur.

00:17:17: nur das Manifest von gestern dass über die Metacanäle veröffentlicht wurde.

00:17:22: Ich habe das ein bisschen als relativ zusammenhangslos empfunden also es jetzt nicht so.

00:17:28: Es ist nicht direkt vergleichbar mit der Enzyklika des Papstes zum Umgang mit der künstlichen Intelligenz sondern ist es eher so ein bisschen Na ja, so Vibe-Vibewriting.

00:17:37: Aber wahrscheinlich tatsächlich von Hand geschrieben?

00:17:39: Schätze ich.

00:17:40: Ausschließen können wir es nicht!

00:17:42: Und es sind aber so ein paar Punkte drin, die ich interessant finde.

00:17:44: Die, die du auch angesprochen hast gehören zu hundert Prozent auch dazu dass eigentlich jede Facette des Lebens durch KI ersetzt werden soll und das er aber glaubt Dass das eben nicht gegate keep werden sollte.

00:17:54: er setzt sich dafür ein dass Es Offene Modelle gibt dass sich die US Regierungen nicht dagegen stellt open weight oder Open Source Modeller aus China zum Beispiel zu blockieren.

00:18:04: Er setzt sich da für einen das weiter destilliert werden kann was alles interessant ist weil Er natürlich ein KI-Modell hat, dass darauf angewiesen ist.

00:18:12: Dass es distillieren kann weil er nicht vorne mitspielen kann.

00:18:16: Er lebt davon das ihr irgendwie einen Marktplatz bekommt oder einen Platz im Markt bekommt dadurch, dass er Sichtbarkeit kriegt.

00:18:22: und das schafft er dadurch dass er wie Meter jetzt gleichzeitig angekündigt hat auch die bestehenden Modelle wieder Open Source setzen wird.

00:18:29: also sie wollen sozusagen sich als die Guten platzieren was keine Rolle isst der ja man die man ihm abkauft nach den letzten zwanzig Jahren irgendwie.

00:18:40: Ich musste an so eine Postkarte denken, die ich mal gesehen habe und dich auch noch hab irgendwo.

00:18:44: Da ist so ne Marionette drauf zu sehen und die läuft in so einer Richtung... ...und dann ist da so ne Sprechblase und die Marionette sagt, oh, da wollte ich eh hin!

00:18:52: Und so wiegte das auf mich dass so Mark Zuckerberg gar keine andere Möglichkeit hat als jetzt diese so ein Modell zu schaffen, das kostenlos ist und allen zur Verfügung steht weil es sehr immer wichtig der erste zu sein und da sind die anderen Jetzt schon etwas entschwunden und kaum noch zu sehen.

00:19:11: Und das kann Max Zuckerberg jetzt machen, um den das Geschäft kaputtzumachen sozusagen.

00:19:16: Also anbieten, dass man bei ihm kostenlos irgendein Sprachmodell oder ein agentisches Modell nutzen kann... ...und das eröffnet ihm dann vielleicht den Weg weiterhin auf andere Weise Geld zu verdienen?

00:19:31: Ja vor allem weil er aber das so durchmogelt indem er zum Beispiel sagt liegt die Macht der Superintelligenz in den Händen weniger Einzelpersonen, Unternehmen, Regierungen oder der KI selbst führt dies zu Ergebnissen die für alle weniger vorteilhaft sind.

00:19:44: Und er formuliert es eigentlich die ganze Zeit so.

00:19:46: Meta ist das Unternehmen dass sich auf die Entwicklung persönlicher Superintelligenz für jeden einzelnen konzentriert.

00:19:52: Die meisten anderen Labore arbeiten an KI-Lösungen für Unternehmen, Regierung und andere Institutionen.

00:19:57: Seit unserer Gründung folgt Meta das Ziel den Menschen mehr Macht in die Hand zu geben.

00:20:04: Absurd ist, wenn wir uns anschauen wie Instagram aufgebaut wird.

00:20:07: Wie Facebook aufgebaut ist?

00:20:08: Wie all diese Tools aufgebaut sind bei denen es eben genau darum geht weniger Kontrolle über Daten zu haben, über das was wir sehen, über dass was wir so publizieren und so weiter usw.

00:20:21: Es gibt auch noch eine Passage da spricht er ja die über die Zusammenarbeit mit der amerikanischen Regierung gründlich gelesen, dass ich das jetzt alles im Detail wiedergeben könnte.

00:20:31: Aber da habe ich auch gedacht... Ich glaube es ist so geplant, dass man Donald Trump hat, glaube ich vor ein paar Tagen gesagt, dass er gerne diese... Das ist wahrscheinlich so nicht richtig widergegeben.

00:20:44: aber so grob die neue Sprachmodelle erstmal sozusagen sehen möchte.

00:20:51: und Und darüber schreibt Mark Zuckerberg auch, dass die Regierung – also es geht ja auch um Amerika und darum sich gegen China zu behaupten.

00:21:02: Dass man der Regierung sowohl diese Sprachmodelle oder die KI-Modelle zur Verfügung stellen will als auch eben damit dann die Gehirne sozusagen der Menschen.

00:21:15: Aber ich glaube, das hättet ihr neulich schon mal in irgendeiner Folge oder so.

00:21:17: Das ist hier wirklich überhaupt keine gute Idee der amerikanischen Regierung irgendetwas zur Verfügung zu stellen und jedenfalls der aktuellen nicht.

00:21:24: Und

00:21:24: so formuliert er das?

00:21:25: Er sagt jede politische Maßnahme die die Veröffentlichung amerikanischer Modelle verzögert sei es auch nur um einen Monat könnte die amerikanische Führungsposition erheblich gefährden und ausländischen Modellen ein Vorsprung verschaffen was vermutlich stimmt Sagt aber auch, gleichzeitig ist bei der Entstehung neuer Fähigkeiten wichtig dass die US-Regierung über Verabinformationen und Ressourcen zur Absicherung kritischer Systeme verfügt.

00:21:46: Und idealerweise ein zeitlichen Vorsprung bei der Nutzung dieser fortschrittlichen Systeme hat.

00:21:50: Das ist ein Widerspruch in sich.

00:21:52: Also entweder du gibst der Regierung vorab den Zugriff oder du gibts ihnen nicht.

00:21:59: Da bin ich so'n bisschen ins Stauchen geraten.

00:22:02: Ich finde auch interessant, dass er so Spitzen gegen das Doom Marketing der anderen Unternehmen macht.

00:22:08: Also er sagt nach dem Motto, dass es eben nicht darum geht... KI gefährlich ist, sondern es geht darum dass sie ihm die Menschen unterstützen.

00:22:16: Alle sollen den Zugriff kriegen.

00:22:18: und da sind wir nämlich genau bei dem World Street Journal Text.

00:22:21: Er hatte damals ein Bild gemalt.

00:22:23: er hat gesagt stellen sich vor nur eine Person hat einen superintelligenten Anwalt.

00:22:26: Er hätte vor Gericht einen unfähren Vorteil so sagte er im World Street journal.

00:22:30: wenn aber jeder einen super intelligenten Anwald hätte wäre Gerechtigkeit viel fairer und effizienter.

00:22:35: Das ist so bisschen wie dieses Argument mit den mit den Gewehren oder mit den Waffen ne?

00:22:40: Wenn alle eine Waffe hätten dann

00:22:42: Ja genau,

00:22:43: wäre es viel sicherer.

00:22:44: aber das ist natürlich wahrscheinlich auch Quatsch.

00:22:48: Also ja

00:22:50: und die Frage ist halt jetzt da geben wir mal so ein bisschen.

00:22:52: ich will übrigens noch als Long Read empfehlen es gibt von The Verge einen Kommentar der von Elizabeth Lopeto geschrieben ist, die wir hier schon häufiger zitiert haben.

00:23:02: Weil sie auch den ganzen KI-Prozesse vor Gerichte begleitet hat.

00:23:05: Dieser Text, den pack ich euch mal in die Show notes, ihr könnt ihn nicht komplett zitieren.

00:23:09: Der trägt den Titel Mark Zuckerberg weiß nicht wie man lebt oder versteht nicht wie Mann lebt und das ist nämlich genau der Punkt den du auch angesprochen hast.

00:23:16: diese komplette Automatisierung von allem, die Entmenschlichung alles soll am Ende ein Computer machen.

00:23:22: Am besten jedes Rezept dass man mit seiner Tochter backen kann sollte eine KI machen.

00:23:26: Ein ganz toller Text, kleine Empfehlung an der Stelle.

00:23:29: Aber die Frage ist ja warum schreibt ihr diesen Manifest?

00:23:31: Was ist die Mission?

00:23:32: Ist es wirklich nur das Ego dass der Wall Street Journal Text gekürzt wurde?

00:23:37: oder aber ist es die Reaktion auf die Aktienkurse und die Reakktion des Marktes nach der Verkündung der Quartalzahlen letzte Woche, die ja nicht so richtig viel Bock darauf hatten, dass Meter so stark in die KI Richtung sich entwickelt deswegen negativ reagiert haben?

00:23:52: weil sie vielleicht auch gar nicht verstehen, warum hier Milliardenbeträge in die Entwicklung neuer Rechtenzentren und neue KI-Systeme ausgegeben werden.

00:24:00: Und er muss natürlich jetzt irgendwie eine Art visionären Überbau anbieten.

00:24:04: Er muss sagen ja wir haben zwar lange Social Media gemacht mit Werbung aber eigentlich ist unser Zielen ganz anderes altruistisch und für alle und das hier ist die Idee.

00:24:14: also es fühlt sich so ein bisschen anders kennst du sicherlich auch wenn man so für Kunden ... einen Namen entwickelt oder ein Slogan.

00:24:22: Und dann schreibt man nachher fünf Seiten Begründung, wie man auf diesen Slogans angeblich kommen sein soll... ... obwohl der natürlich einfach eine Schnapsidee war den man gut fand?

00:24:31: Ja er stellt aber vor allem auch das war jetzt so mein Eindruck vielmehr in so einer positive Erzählung gegenüber.

00:24:37: Also er bietet bei ganz vielen Stellen so eine Erzählungen wo man jetzt sagen könnte, dass K.I.

00:24:43: ist doch gar nicht so schlecht.

00:24:45: und ich finde auch ganz interessant Dass man sich fragt, wie ist dieser Text jetzt entstanden?

00:24:51: Weil der Wickler tatsächlich so ein bisschen verplaudert.

00:24:53: Man stellt sich vor der Sitz da und das fällt ihm auch noch ein.

00:24:57: Und an vielen Stellen steht irgendwie ich glaube... ...und es ist alles so wage.

00:25:02: Vielleicht hat er's selbst mit der KI geschrieben.

00:25:04: oder dann auch noch warum diese komische Inszenierung?

00:25:06: er ruft auf den Weg zum Angeln beim Tech-Journalisten an.

00:25:10: Also was soll das bedeuten?

00:25:14: Ich glaube diese kleinen Details, die machen alle irgendwie so deutlich.

00:25:17: Das passiert alles nicht zufällig aber da muss man es irgendwie auch noch deuten können ne?

00:25:21: Ja und das fällt gar nicht so leicht.

00:25:23: also es gibt von Four for Media auch das packe ich euch gerne mit den Show Notes eine Art Zusammenfassung des Textes mit dem Titel Mark Zuckerberg veröffentlicht Wirren Essay Und da ist es nämlich so ein bisschen rausgestellt, weil Jason Kobler in der Textgeschriebenheit sagt, dass es Says voller Plattitüden und nicht sagender Sätze sowie Gedankenexperimenten die nicht ausgearbeitet sind.

00:25:45: Hier ein paar Beispiele Die Menschheit ist keine Monokultur.

00:25:48: Die vielfältigen Werte der Menschen spiegeln unterschiedliche Abwägungen wieder, die sie bei wichtigen Fragen treffen würden.

00:25:53: Es gibt keine technologische Lösung, die allen gegensätzlichen Interessen und Werten gleichzeitig gerecht werden kann.

00:25:58: Das stimmt zwar aber auch er hat ja kein Gegenangebot dafür.

00:26:01: oder Die Menschen haben ein unbegrenztes Bedürfnis nach neuen Erfahrungen und haben stets neue Probleme gefunden, die es zu bewältigen gilt.

00:26:11: Es fehlt wirklich so die Motivation, die Idee bei der man denkt... Also wenn man sich die Aufsätze von Sam Ordmann zum Beispiel anschaut, er hat ja aus der Texte geschrieben über das bedingstlose Grundeinkommen Da hat man so ein bisschen das Gefühl, also es hat natürlich auch eine Marketingkomponente und ein wirtschaftliches Ziel dahinter.

00:26:31: Aber es gibt auch einen roten Faden warum sich das Ganze jetzt wirklich anfühlt wie ein Manifest Und das fehlt bei dem Zuckerberg Text fairerweise ein bisschen.

00:26:39: Es ist auch ganz interessant finde ich.

00:26:42: Du hast ja in den Texten die du zusammen kopiert hast Ist auch noch ne andere Texte über Mark Zuckerberg und seine Yacht.

00:26:51: Ja da

00:26:52: kommen wir gleich nach zu

00:26:53: Genau, und da ist mir auch so ein Satz aufgefallen.

00:26:56: Und der passt auch in diese... Ich müsste ihn gleich mal suchen aber auf jeden Fall ist es eher so einen Kommunikationsstil.

00:27:03: Es kommt Kritik und man antwortet nicht direkt auf die Kritik sondern man stellt dem eine Aussage entgegen dem eigentlich alle zustimmen können.

00:27:15: Also ich glaube jetzt bei der Yacht war's so dass man irgendwie ihn kritisiert hat.

00:27:19: Ja, wer sofort noch dazu kommt, sagst jetzt nicht.

00:27:24: Geil du bist auch so eine Teasingmaschine wie ich!

00:27:29: Ich war ja zu unsicher.

00:27:30: Naja aber vielleicht stoß wir gleich noch da drauf?

00:27:33: Ich fand das total interessant an einigen Stellen dass ich mir gedacht habe es klingt so technisch.

00:27:37: Das kann man gar nicht glauben.

00:27:38: im Grunde wie ein KI Bild als Text.

00:27:40: Das stimmt also eigentlich ist Mark Zuckerberg die Julia Klöckner des Silicon Valley am Ende.

00:27:47: Ich will kurz die Yachtgeschichte erzählen und zwar... Gab es in der Farragut Bay, das ist eine kleine, wie sagt man Bucht?

00:27:56: Ist glaube ich richtig vor Alaska.

00:28:01: Auf jeden Fall genau in der Nähe von Alaska und da gab's ein kleines Boot und dieses kleine Boot hatte kein Treibstoff mehr und das schipperte über das Wasser und hat deswegen Mayday gemeldet.

00:28:10: Es hat Notfall gehabt, brauchte Hilfe!

00:28:12: Und es gab einen Schiff, das war extrem nah nämlich die Yacht von Max Zuckerberg Und diese Nacht, die sogenannte Launchpad.

00:28:20: Die Launchpad war direkt in der Nähe und hat aber nicht reagiert auf diesen SOS-Hilfen bis dann eben irgendwann die Küstenwache reagieren musste und eingesprungen ist.

00:28:31: Dann hat man so nachher mal nachgefragt was war denn eigentlich mit Mark Zuckerberg und seiner Yacht?

00:28:36: Und er hat aber gesagt, Mark und seine Familie ... Der Sprecher von den beiden.

00:28:41: Von Mark Sagenberg an seiner Frau.

00:28:42: Mark und sein Familie waren zum Zeitpunkt nicht an Bord.

00:28:45: Wie die Küstenwache feststelle befand sich das Boot gar nicht in Seenot als die Besatzung der Funkspruch der Kistenwache auf einem anderen Kanal!

00:28:53: Als sie gerade kommunizierte Wahrnahmen war die Hilfeleistungen bereits in Gange.

00:28:56: Wir sind froh dass alle Beteiligten wohl aufsind.

00:29:00: Die kurze Entscheidung ist aber Max Ackerberg's Jacht war in der Nähe eines in möglicherweise Seenot oder zumindest nicht mehr Bewegungsfähigkeit geraten ins Schiff ist und hat einfach sich nicht darum gekümmert, dass da dieses Schiff isst und möglicherweise gar ein Problem hatt.

00:29:16: Vielleicht hat Brian Baker auch den sechstausendfünfhundertwörter langen Text geschrieben?

00:29:22: Möglicherweise!

00:29:22: Vielleicht gibt es Brian Baker ja auch gar nicht, sondern KI-Avatar

00:29:26: von OpenAI.

00:29:31: Übrigens interessant, das hat Sebo in unserem Discord geschrieben.

00:29:33: Wir haben ja zu diesem Podcast einen begleitenden Discord.

00:29:35: ist toll.

00:29:36: wenn ich gestern hab die noch nie hier waren wie dich jetzt Ralf dann kann ich dir dazu erzählen dass die Hörer ihnen denken ach toll dass ihr ihm das erzählt.

00:29:42: aber gleichzeitig mache ich Werbung und zwar mehr ein begleitenen Discord Server.

00:29:46: da sind über fast zwei tausend vierhundert Leute drauf die tauschen sich über diese Nachrichten aus.

00:29:50: sie geben Einschätzung die geben hinterrund Informationen die sind auch sehr witzig sehr schlau und da könnt alle mitmachen auf www.haken-rand.org.

00:29:56: du meldetest mich bestimmt auch direkt jetzt gleich an.

00:29:58: Ich bin da schon, ich hab auch ein bisschen Angst davor.

00:30:00: Weil alles was man hier sagt wird ja auch... ...so wie bei Facebook mit den Community Notes gleich gecheckt.

00:30:08: Genau!

00:30:08: Vielleicht

00:30:09: kann ich jetzt nach dem Podcast nie wieder da reinschauen.

00:30:13: Der Spiegel hat ja so eine diese Doku-Abteilung bei der auch jeder Fakt jede Tatsache im Hauptamt überprüft wird.

00:30:18: Wir haben einen Discord und da hat Sebo geschrieben dass die Mega Giga Yacht Launchpad von Mark Zuckerberg immer von einem Begleitbot eine andere Yacht begleitet wird mit dem Namen Wingman.

00:30:30: Heißt also, dass da mehr als ein Boot gewesen ist das hätte reagieren können aber man hat einfach nicht drauf reagiert und das ist natürlich ne... Also erstmal publicity-mäßig super scheiße!

00:30:44: Du kannst es gar nicht kommunizieren.

00:30:45: und was halt hängen bleibt ist Max Zuckerberg hat nicht geholfen.

00:30:49: auch wenn er selber vielleicht tatsächlich auf den Board war Find ich, das ist halt super gau.

00:30:57: Ja er war gerade angeln oder tauchen, schnorcheln?

00:31:01: Ich glaube das Wasser ist relativ kalt vor Alaska.

00:31:04: Ja also das ist natürlich wirklich... Also die Geschichte kann ja so... Es kann ja ganz unterschiedliche Hintergründe geben, man liest das jetzt und die eigentliche Geschichte kennt man nicht.

00:31:16: Man weiß ja nicht was an Bord passiert ist oder so.

00:31:18: vielleicht war da tatsächlich einer der gesagt hat Oha Neka im Bock oder man hat sich gesehen oder war gerade irgendwie Essen oder Duschen Und Mark Zuckerberg war möglicherweise wirklich nicht an Bord und ist da jetzt so reingeschlittert.

00:31:30: Jetzt gibt es diese Erzählung, die es Mark Zuckerburg hat nicht geholfen... ...und jetzt muss Mark Zuckerbeug sich wieder hinsetzen und ein Essay schreiben um eine positive Erzählung

00:31:39: gegenüberzustellen.".

00:31:40: Warum der Zustand der Seenot eine persönliche Bereicherung sein kann?

00:31:46: Sechstausend Fünfhundert Wörter.

00:31:49: Er schien im Diogenis vernach.

00:31:50: Die Hälfte

00:31:50: davon.

00:31:50: Offenheit und Transparenz!

00:31:55: Wir bleiben kurz noch beim Meta und da sind wir wieder mehr in der Social Media-Welt.

00:31:59: Und zwar gibt es ja bei Instagram Instagram Plus, ich weiß nicht ob du das abonniert hast oder irgendjemand, der das hier halt abonniert hat?

00:32:05: Nein

00:32:06: nein!

00:32:06: Du kannst so drei Euro ein paar extra Features im Monat kriegen wie zum Beispiel dass du Stories ein zweites Mal... Nee, dass du sehen kannst, wenn deine Story ein zweitens mal gesehen hat.

00:32:15: Du kannst Stories anderer Leute sehen ohne die sehen, was du sie gesehen hast usw.

00:32:21: Und da gibt es jetzt eine neue Funktion und das ist ein bisschen Funktionen und Emotionen hier.

00:32:24: aber ich finde, dass so bemerkenswert weil das so ein kleiner so eine kleine Richtung vorgibt wie sich die Paradigmen beim Meter verändern in den letzten Jahren.

00:32:34: Wir wissen ja, dass du auch schon stärkere prominente Platzierung in suchen dir erkaufen kannst und so.

00:32:40: Und jetzt gibt es die Möglichkeit als Meta One Abonnentin für alle Leute mit deinen Beiträgen interagieren ... mit dir aber nicht vernetzt sind, automatisch eingeladen werden.

00:32:51: Also die bekommen dann zum Beispiel bei Facebook oder bei Instagram eine Nachricht wo drin steht... Ralph Heimann möchte das du ihm folgst und dann können sie da quasi aus ihrer Notificationsspalte direkt deinem Account folgen.

00:33:04: Aber passiert das nicht eh schon?

00:33:05: Man hat doch irgendwie immer das Gefühl dass bei Facebook beispielsweise Leute einem angezeigt werden muss.

00:33:13: ich fragt warum der jetzt?

00:33:15: Wahrscheinlich hat der einen gesucht oder man selbst wird dann auch jemandem angezeigt, bei dem man auf der Seite war.

00:33:20: Oder was ist darum neu?

00:33:21: Nee

00:33:22: das ist ja halt eine Benachrichtigung!

00:33:23: Du kriegst da... Also

00:33:25: ich baust den

00:33:25: Real und du folgst mir nicht.

00:33:27: Du siehst dieses real und du likest das und dann wisch du weiter.

00:33:30: Dann kriegste du ne Benachichtigung ob du mir nicht weil du dies realer gesehen hast nicht einfach folgen möchtest.

00:33:36: Super Service!

00:33:37: Ja es ist pay to win.

00:33:39: langsam also es passieren Dinge einfach.

00:33:45: Ja.

00:33:49: Das war schon meine Meinung.

00:33:51: Ich finde das reicht aus!

00:33:53: Ich habe jetzt eine Geschichte, die macht leider richtig, richtig doll schlechte Laune und ich hab auch ne kleine Trigger-Warnung denn in dieser Geschichte geht es um Selbstverletzung und Suizide.

00:34:03: wenn ihr das nicht gut hören könnt findet ihr in den Schauenorts die Kapitelnmarke für den nächsten Punkt.

00:34:07: das heißt ihr könnt diese Geschichte dann sozusagen direkt überspringen und müsst euch damit nicht auseinandersetzen.

00:34:12: aber wir müssen darüber sprechen weil Es wichtig ist und zwar geht es um TikTok.

00:34:17: Bloomberg liegt ein vertraulicher Tiktokbericht vor, in dem es um... Also anders!

00:34:25: Es gibt einen TikTok-Nutzer der heißt Chase, der war sechzehn Jahre alt, der hat bevor er sich das Leben genommen hat.

00:34:32: wenn nicht auf die Details eingehen, wenn ihr euch damit auseinandersetzen möchtet findet ihr die ganze Geschichte bei Bloomberg.

00:34:37: aber er hat sich suizidiert und hat vor seinem Tod Tausende Videos gesucht über das Thema Suizid, über die Methode mit der er sich das Leben nehmen wollte zum Thema Traurigkeit.

00:34:48: Einsamkeit hat Songs gesucht.

00:34:50: mit dieser Thematik also hat sich sehr stark sozusagen auf TikTok auf sein eigenes Vorhaben vorbereitet und Das passiert.

00:34:59: Leute googeln sowas und das lässt sich schwierig vermeiden.

00:35:03: im Fall von Tiktok aber gibt es da eine Einschränkung.

00:35:05: Der TikTok hat in den vergangenen Jahren einen neuen Funktion eingeführt, mit der es möglich ist, den eigenen Algorithmus nur in einer gewissen Stärke anzupassen wenn es um schädliche Inhalte geht.

00:35:18: Also es gibt sozusagen eine sichere Version des Algorithmos, das eigentlich alle Nutzerinnen automatisch bekommen haben.

00:35:26: damit man eben sich nicht nur mit Hilfe von TikTok in so eine Ausnahmesituation noch stärker ein Loch reißen lassen kann.

00:35:34: Aber eigentlich genau die richtige Entwicklung und komplett notwendig!

00:35:38: Das Problem ist neue Funktionen, das wissen wir von anderen sozialen Netzwerken... rollen funktionen nicht immer für alle nutzerinnen gleichzeitig aus?

00:35:47: üblicherweise macht man das deswegen um zu überprüfen wie verändert sich die bindung der leute?

00:35:53: verbringen sie weniger zeit auf der plattform?

00:35:56: was.

00:35:56: passiert mit denen, wenn sie diese Funktionen bekommen.

00:35:58: Das kennen wir von Instagram, wenn du jetzt irgendwie ein neues Feature bei Instagram gibt.

00:36:02: Es gibt ganz viele Leute die haben diese Function nicht und dann wird dir als Testgruppe genommen oder umgekehrt und wird geschaut welche der beiden Gruppen verhält sich jetzt anders?

00:36:10: Wer verbringt mehr Zeit?

00:36:11: Oder wie TikTok das in diesem internen Bericht nennt dieser genannte Stickiness also die Bindungskraft der App Wie viel Zeit verbring man dort?

00:36:19: Und TikTok hat.

00:36:20: im Fall dieses sicheren Algorithmus ist zehn Prozent der Menschen in den USA als Kontrollgruppe die nicht die sichere Version des Algorithmuses bekommen haben, also etwa fünfzehn Millionen Menschen zu dieser Gruppe eben auch der sechzehnjährige Chase gehört hat.

00:36:34: Heißt also es wäre nachweislich verhinderbar gewesen dass dieser Mensch sich mithilfe von TikTok in so eine Richtung reißen lassen und TikTok selber hat aber das im Nachhinein gar nicht groß thematisiert, haben aber versucht diese Berichterstattung weitgehend zu verhindern indem sie vierundzwanzig Menschen darauf angesetzt haben PR-Arbeit zu leisten, damit sich eben nicht diese Erzählung so weiter trägt wie sie uns jetzt mittlerweile bekannt ist dank Bloomberg.

00:37:03: Ja das ist natürlich wieder so eine Sache.

00:37:05: also wir sind ganz unterschiedlichen Zusammenhängen der immer darüber gesprochen dass die Dinge die im Verborgenen passieren ganz viele Gefahren mit sich bringen.

00:37:16: Also es ist nicht nur so bei den Sprachmodellen.

00:37:25: Einmal ist es so dieses Thema mit dem ich mich immer beschäftige der Journalismus, der verlieht seine Finanzierungsgrundlage wenn alles über Sprachmodelle funktioniert und hier jetzt ebenso.

00:37:37: Es gibt gar keine Regeln was intern da überhaupt passieren darf, passieren soll und wenn Plattformen dann so mit irgendwelchen Feeds experimentieren.

00:37:46: Dann hat das tatsächlich so handfeste Folgen.

00:37:48: Und das ist möglicherweise... Wenn man da auf der einen Seite vom Bildschirm sitzt vielleicht vielen Leuten gar nicht bewusst aber natürlich in diesem Fall hier wahnsinnig tragisch.

00:37:59: und die Frage ist auch wie will man da irgendetwas durchsetzen?

00:38:02: Also wie?

00:38:03: es möglicherweise gibt's Regeln?

00:38:05: Möglicherweise könnte man mit dem Digital Services Act da irgendwas machen oder so Wie?

00:38:11: Wenn es da irgendwie so ein Dosier braucht, das jetzt irgendwie geliegt wird oder in die Öffentlichkeit kommt und überhaupt gar nicht klar ist was wirklich passiert ist.

00:38:20: Ja du hast mit einem Recht... In der Geschichte ist es nur so dass ja TikTok eigentlich längst die richtigen Sicherheitsmaßnahmen entwickelt und getroffen hat dann aber aus Profitgründen oder aus Bindungsgründen sich dazu entschieden hat das eben nicht als Sicherheitsmaßnahme für alle Nutzerinnen und Nutzern zur Verfügung zu stellen, sondern erst mal zu testen.

00:38:42: Was passiert eigentlich wenn wir diese Sicherheitsmechanismen ausrollen oder für dass die Leute weniger Zeit bei uns verbringen?

00:38:48: Und es ist in dem Fall hier sogar so konkret zu benennen, dass es einen Tag gibt an dem das Konto von Chase für diesen Test ausgewählt wurde, der Jannuar zwanzigzehn-zweiundzwanzig, in den gleichen Zeitraum fällt, indem ein ehemaliger Schulfreund von Chase bemerkt hat dass die Videos die er von ihm geschickt bekommen hat sich in seinem Stil und seiner Stimmung verändert haben.

00:39:09: Heißt also es lässt sich sehr genau rekonstruieren welche Auswirkungen die algorithmische Auswahl vom Videos auf unsere Psyche hat vor allem wenn die Psyches sowieso schon einen Knack hat wie leicht man sich den knack sozusagen noch vergrößern kann weil man auch nach Dingen suchen kann.

00:39:24: Und die Frage ist halt Warum muss im Fall von dieser Sicherheit hier eine Abwägung stattfinden zwischen am Ende Profit und der Sicherheit?

00:39:35: Warum sagt man nicht, dass es so essentiell und wichtig ist, dass das eben nicht für neunzig Prozent der Nutzer ausgeführt wird sondern für hundert Prozent.

00:39:46: Also wenn ich das so richtig verstehe, war das weiterhin ein Abit-Test?

00:39:50: Genau.

00:39:54: Dann ist es aber wahrscheinlich auch so dass man gar nichts sagen kann.

00:39:57: hat man jetzt gewusst was das für folgen also was er so anrichten kann?

00:40:01: oder hat man gedacht so schlimm wird's wohl nicht sein?

00:40:04: und durch so einen Fall wird dann ja natürlich irgendwie deutlich, dass das tatsächlich enorme Folgen haben kann.

00:40:12: Wenn man den Feed auf eine bestimmte Art und Weise einstellt unter immer wieder Videos die in einer bestimmten Botschaft haben präsentiert dann kann es das Verhalten von Menschen beeinflussen.

00:40:25: Mich erinnert das ein kleines bisschen an dieses generelle Problem, dass es auch schon bei Twitter gab wo man sich dann immer so gewundert hat.

00:40:33: Dass alles so wahnsinnig eskaliert und hochgegangen ist und das Menschen die man irgendwie im normalen Leben als gar nicht so schlimm eigentlich erlebt hat, dass sie da so abgedreht sind, dass man eben nicht sieht was auf der anderen Seite passiert.

00:40:46: Man kann die wahnsinnigen Sachen machen, Menschen beschimpfen aber man spürt jetzt die Folgen nicht.

00:40:50: direkt ist leider so, dass immer irgendwie was Schlimmes passieren muss bevor überhaupt etwas geregelt wird.

00:41:00: Dass man nicht vorher sagt so ja es könnte was passieren.

00:41:03: deshalb machen wir das mal weil dann kommen Leute sagen das ist jetzt ein bisschen übertrieben und das ist nun ein Fall wo sie sagen muss Ja das ist wirklich notwendig, dass solche Sachen nicht mehr aus versehen passieren.

00:41:15: Ja also natürlich muss man dazu sagen du kannst sowas nicht ausschließen glaube ich Und du kannst vor allem nicht von allen NutzerInnen alles auswerten.

00:41:27: Das macht TikTok nach eigener Aussage auch nicht, sondern hat das damals im März des Jahrhunderts dann gemacht als Bloomberg Business Week eine Stellungnahme für eine Berichterstattung von TikTok eingefordert hat.

00:41:38: Daraufhin wurde dieser ... Videoverlauf von dem sechzehnjährigen Jungen ausgewertet und das Ergebnis war tatsächlich verpieren.

00:41:45: Siebentausend fünfhundertsechzig Videos wurden ausgewertet, dreiundsiebzig davon behandelten das Thema Suizidpsychische Probleme Sehnsucht nach einer Beziehung oder Trauer über eine Trennung also dreiviertel.

00:41:57: Und wie gesagt es gab Sicherheitsmaßnahmen um das zu verhindern die er nicht da von denen er nicht profitieren konnte weil geprüft wurde ob die Stickiness nicht Dadurch darunter leiden könnte.

00:42:10: Ja, okay also aber das ist jetzt auch bei Mark Zuckerberg in dem Manifest so ein kleines bisschen.

00:42:14: So man liest das dann und denkt dann immer so ja stellt sich jetzt so als einen guten menschen da und seine firma als sowas gut ist.

00:42:20: Aber wenn man ja in den vergangenen jahren irgendwas gelernt hat Dann es geht eigentlich immer nur um Geld Und da.

00:42:26: Es ist auch natürlich ein bisschen ernüchternd wenn man dann feststellt Dass sowas passiert.

00:42:31: aber im grunde muss man Wie du das am Anfang gesagt hast, verhindern dass es überhaupt passieren kann.

00:42:36: Also dass man da die Entscheidung hat und sagt so... Das ist ja offenbar immer wieder ein Konflikt zu dem es kommt Nutzer-Sicherheit eben oder Geld.

00:42:43: Und weiß nicht wie oft da die Entscheidungen schon so ohne dass jetzt irgendwer zugeschaut hat oder unter Druck gesetzt worden ist für die Nutzersicherheit gefallen ist.

00:42:52: ich denke mal die Tendenz geht immer so eher in Richtung Geld.

00:42:56: Das muss man leider so festhalten.

00:42:59: Ja das sind so Themen, da weiß man auch nicht.

00:43:04: Das war auch nicht so richtig ne?

00:43:07: Ja.

00:43:07: aber ich finde wenn man darüber nachdenken und es geht dann immer darum dass man also ich frage mich das oft in der Medienberichterstattung welche...

00:43:15: Welche Wirkung

00:43:16: das Ganze denn hat man spricht über Desinformationen und über alle mögliche Dinge die so ja auch durch Plattform passieren.

00:43:25: Und ist das jetzt wirklich so ... Plattformen durch TikTok, Instagram oder ... ... Desinformation generell so politische Stimmungen entstehen und ... ... ja auf die beispielsweise so stark wird.

00:43:41: Oder so haben Medien wirklich eine Macht?

00:43:44: Und wenn man so einen Fall liest dann kommt ja so eine Ahnung... ... was das in Menschen auslösen kann.

00:43:48: Das finde ich schon sehr interessant!

00:43:50: Ja das ist so.

00:43:51: Ich glaube die Forschungslage ist bei dem Thema gar nicht so eindeutig.

00:43:55: also es ist ein Hennerei-Problem.

00:43:58: jemand der diesen Riss in der Psyche vielleicht gerade gar nicht hat und sich nicht danach fühlt, er lässt sich vielleicht davon eben auch noch gar nicht weiter in diese Dunkelheit reinreißen.

00:44:07: Aber grade wenn du ... Und dann bist du jetzt tatsächlich bei der Gesellschaft.

00:44:12: Wenn du einen Riss im Vertrauen gegenüber dem Sozialleben zum Beispiel hast oder dem soziales System in Deutschland Dann bist du natürlich auch empfänglicher für unter normalen oder anderen Umständen eher abwegig wirkende Thesen, die dann dich in so ein Rabbit Hole reißen lassen.

00:44:31: Also die Radikalisierung durch solche Algorithmen funktioniert halt extrem gut.

00:44:36: Ob aber alle Leute grundsätzlich gleichermaßen anfällig für Radikalisierungen sind wenn sie nur die richtigen Videos sehen?

00:44:42: Das glaube ich nicht!

00:44:44: Ich glaube es reicht aus dass es die Möglichkeit besteht.

00:44:52: wird schon schief gehen.

00:44:53: Deswegen machen wir das jetzt erstmal nichts, dass ja glaube ich nicht der richtige Weg soll man sagen.

00:44:58: also da sind bestimmt wenn man jetzt irgendwie so statistische Daten zugrunde legt eine bestimmte Anteil an Menschen dabei die es jetzt betrifft.

00:45:05: Also geht das halt grundsätzlich nicht, dass man sowas macht.

00:45:08: und ich glaube es ist wie überall bei diesen ganzen Sachen.

00:45:11: wir leben gerade in so einer Zeit wo es diesen ganzen Kram grade erst gibt und wir sehen also erstes das alles dar und dann ein bisschen Wie in der Zigarettenindustrie merkt man nach ein paar Jahren, oh das ist ja alles doch viel schädlicher als man dachte und jetzt brauchen wir regeln.

00:45:25: Und dass es jetzt hier auch so war, wo ich glaube... Das kommt dadurch zustande, dass Dinge erstmal genutzt werden und dass man das erst mal macht ohne sich über die Folgen im Klaren zu sein.

00:45:35: Und das man einem Nachhinein sich überlegen muss wie müssen wir diese Regeln ausgestalten, dass sowas auf keinen Fall passiert?

00:45:40: Ja!

00:45:41: Es gibt aber einen großen Unterschied zur Zigarrettenindustrie.

00:45:43: also der Vergleich wird gerade sehr viel gezogen.

00:45:45: Ich habe da auch Tatsächlich die spannende Beobachtung gehört, dass in der Zigarettenindustrie wenn du das quasi weiter extrapolierst was dort passiert und adaptierst auf Social Media.

00:45:55: Das Ergebnis am Ende ist es über die Einschränkung der Nutzung für junge Menschen am Ende auch eine komplette Eindämmung aller Nutzerinnen des Ergebnisses.

00:46:05: also man fängt alles für junge menschen zu regulieren und dann fängst du an das Erwachsenen zu reguliern und irgendwann ist es gar nicht mehr erwünscht.

00:46:13: Ich gehe nicht so weit, aber ich will doch zumindest anmerken dass auch wenn Social Media hier in nahezu fast allen Fällen, zumindest wenn du dir die genutzte Zeit insgesamt anschaust.

00:46:25: In der Hand von eben wie Mark Zuckerberg selber sagte einigen wenigen Milliardären Regierungen und so weiter liegt dann darf man trotzdem nicht vergessen das da es einen Teil von Öffentlichkeit ist.

00:46:38: Das ist ein Teil von Infrastruktur, das ist Kommunikation ... viele Menschen, das einzige Fenster in die Welt.

00:46:47: Vielleicht auch ein Fenster... ...in eine Welt, in der sie gerne wären aber sich nicht aufhalten können,... ...weil sie zum Beispiel Repressionen zu befürchten haben oder in einem Leben feststecken,... ...aus dem sie nicht rauskommen.

00:46:57: Also es gibt tausende Gründe warum Social Media für viele Menschen ganz essenzieller Bestandteil ihres Lebens ist.

00:47:05: Ich bin total einer Meinung mit dir.

00:47:06: ich meinte gar nicht dass man jetzt zusieht,... ...dass man das möglichst alles verbietet sondern nur dass man bestimmte... Bestimmte Dinge, dass man ... Also so Leitplanken oder Regeln hat.

00:47:15: Ja!

00:47:16: Die gibt eine gewisse Nutzung irgendwie so möglich machen.

00:47:19: Da kann man also ... Ich weiß es jetzt nicht.

00:47:22: wahrscheinlich ist das auch wieder kein gutes Beispiel.

00:47:23: aber ... Alkohol ... Hast du ja jetzt relativ oft im Podcast drüber gesprochen über Jugendschutz und die Probleme, die es damit geht?

00:47:35: Aber ich glaube... Es gibt ja unterschiedliche Arten von Regeln.

00:47:39: Dass man auch Also vielleicht auch soziale Regeln, zum Beispiel jetzt in den vergangenen Folgen ging es oft um die diese E-Meter Kamera oder so ist ja so dass man das man mit dem Handy auch z.B.

00:47:51: überall Dinge aufnehmen kann.

00:47:53: oder was eine Straftat wenn man das einfach macht ohne das zu sagen und das geht jetzt relativ einfach man könnte das immer machen.

00:48:00: aber also klar es gibt dann so ich glaube Es waren Creeps, über die ihr gestern gesprochen oder in der letzten Folge gesprochen habt.

00:48:08: Die das dann machen und die tauchen auch jetzt noch regelmäßig in den Polizeimeldungen auf.

00:48:13: aber es gibt dann halt gewisse Sachen, die sich so als Regeln herausstellen und die sich irgendwie etablieren und dass man so lernt damit umzugehen.

00:48:21: vielleicht ist das eine gute Formulierung?

00:48:22: Ja ich habe das gar nicht so verstanden, dass du ein komplett Verbot vorderst.

00:48:26: Ich will nur sagen gerade wenn man diesen Podcast hier hört oder macht Ist man sehr schnell dabei nur das Dunkle zu sehen ... und diese ganzen Probleme zu sehen.

00:48:35: Und will nur sagen, es gibt aber eben nicht nur das Dunkle... ...und das Schwarze sondern es gibt eben auch viele Gründe warum das eigentlich eine ganz tolle Technologie... ...eine ganze tolle Möglichkeit ist für Menschen miteinander in Kontakt zu treten oder auch... Also einfachstes Beispiel Bands die über MySpace zum Plattenvertrag gekommen sind... ...ist so die Ursprungsidee Die Ursuppe davon warum das so toll ist weil's eben möglich ist man ganz viele Hürden abbaut für Menschen, die sich eben selber irgendwie ausdrücken wollen.

00:49:04: und ich will halt einfach nur dass wir selber uns immer wieder gewahr machen.

00:49:09: Das Problem ist nicht die Idee Social Media sondern das Problem ist, dass die Leute die Social Media anbieten das einfach seit zwanzig Jahren so machen können wie sie wollen ohne dass irgendetwas passiert.

00:49:19: Übrigens da zu kleiner Nachschub und kleinen Snachhack, dass die Episode mit Thomas am Montag extrem viel Diskussion ausgelöst hat.

00:49:29: Weil die Diskussionen, die wir da ja geführt haben – und Thomas ist ja der Ansicht und das ist eine vertretbare Meinung, deswegen fand ich es so wichtig und wertvoll, dass er hier ist – sagt, dass wir gerade eigentlich an der Brille kritisieren, das können wir alle mit dem Telefon längst machen gleichzeitig aber viele andere sagen gehört, glaube ich auch dazu und habe das versucht aus ein bisschen klarzumachen.

00:49:50: Dass die Brille aber eben ein anderes Gadget ist mit anderen vielleicht noch nicht geschriebenen gesellschaftlichen Regeln.

00:49:56: Und der Weg zu diesen gesellschaftliche Regeln vielleicht relativ weit ist und der möglicherweise mit Blut geschrieben wird.

00:50:02: Und dass viele dieser Dinge – und das hat jemand in den Spotify-Kommentaren geschrieben oder welche bin gerade unsicher – dass es natürlich auch eine total privilegierte Beobachtung eines Mannes ist.

00:50:13: Auch das muss man da mal, glaube dass es genauso legitim ist zu sagen, diese Brillen haben in unserem öffentlichen Raum nix verloren.

00:50:21: Also ich glaube das ist einfach eine sehr spannende und noch sehr bewegende Diskussion gerade weil sie ihm noch nicht am Abschluss ist, weil wir so früh stehen und weil wir uns jetzt erst mal miteinander erstmal aushandeln müssen.

00:50:31: was wollen wir eigentlich?

00:50:32: Und wie viel sind wir bereit auch aufzugeben von unserer Privatsphäre zum Beispiel wenn es Entwicklungen gibt die vielleicht gut sind für viele Menschen?

00:50:42: Ich glaub Wenn man sich das bewusst macht, dann kann es aber auch dazu beitragen dass man das alles nicht so negativ sieht.

00:50:47: Also wenn man jetzt also so Perspektive... Jetzt ist ja immer so alles geht den Bach runter Es wird alles immer schlimmer.

00:50:52: Aber wenn wir jetzt irgendwie eine andere Perspektiv wählen Nämlich sagt Ja jetzt gibt's gerade was Neues und Dann gibts diese guten Sachen natürlich wie bei Chatchi Ptifus Ich auf einmal alle Freuen Was Man damit Alles So Machen Kann.

00:51:02: Und Dann Irgendwann Merkt Man Ist Vielleicht Doch Nicht So Gut Sieht IrGwie Komisch Aus Und IrGie Im Gehirn fühlt Sich Das Auch Nicht So Toll An.

00:51:08: Und Dann Denkt Man So Ja Okay Jetzt Gibt Abwärts mit der Menschheit, aber das ist ja vielleicht auch eine Wellenbewegung oder so.

00:51:16: Dass man schaut irgendwie dann... dass man mit bestimmten Regeln, ich muss zum Beispiel über die Plattform reden, z.B.

00:51:27: diese E-Scooter oder so, die am Anfang überall in der Stadt rumstanden und jetzt gibt es immer so feste Parkplätze, da hat man irgendwie so eine Möglichkeit gefunden.

00:51:34: Das ist wahrscheinlich auch noch nicht optimal oder so und ich glaube ein bisschen so ist es auch mit vielen Dingen wie dieser Brille dass man halt erstmal wahrscheinlich erleben muss, welche Folgen das hat und wie das wirkt.

00:51:45: Wie Menschen das nutzen.

00:51:46: Manchmal nutzen jetzt auch ganz anders als es gedacht ist oder so damit man überhaupt weiß, welche Regeln da passen?

00:51:52: Ja ja ja absolut!

00:51:53: Und ich glaube, das ist gleichzeitig auch die größte Gefahr für uns als Gesellschaft weil die Technologie schneller ist als dieser Prozess des Markens den wir als Gesellschaft führen Idealerweise ja erst, wir haben ja schon öfter so diesen Bereich der Rechtsphilosophie oder Rechtsethik gestriffen.

00:52:13: In meinem Verständnis einer gerechten Gesellschaft sind Gesetze immer nur dann notwendig wenn es ohne nicht möglich wäre miteinander so zu leben dass man nicht in den Freiraum des anderen eindringt und das dauert lange!

00:52:31: Das dauert richtig lang bis wir dafür Gesetzer haben und es passiert alles leicht... Vorher

00:52:35: kommen noch die Elenden Selbstverpflichtungen.

00:52:37: Die sind ja immer noch da, die dann immer regelmäßig nicht funktionieren.

00:52:41: Genau!

00:52:42: Die überhaupt absolut nicht.

00:52:44: Selbst Verantwortung im Generellen funktioniert er auch nicht.

00:52:47: Aber das ist alles Teil des gesellschaftlichen Prozesses und der gesellschaftliche Prozess dauert... ...und leider sind wir aber an einem Punkt wo die Entwicklung der Technologie, die das Notwendig macht, nicht so lange dauert?

00:53:00: Ja, also es ist halt... Das muss ich mal denken wenn ich jetzt war vor allem Ich muss nur deinen Podcast hören.

00:53:06: immer, es verändert sich wahnsinnig viel wöchentlich und da soll noch irgendwer hinterher kommen.

00:53:12: Und also jetzt alleine schon in der vergangenen Woche oder so gab's halt diese neue Chat GPT App die auf einmal viel mehr Dinge konnte als vorher und dann muss man sich damit auch wieder irgendwie zurechtfinden.

00:53:26: Also das ist ja überhaupt gar kein Wunder.

00:53:29: Man muss ja nur zwei Wochen in den Urlaub fahren, dann schaut man so in die Nachrichten und was es jetzt wieder Neues gibt... ...und hat das Gefühl dass man irgendwie total raus ist und so.

00:53:39: Dass natürlich alles nicht von selbst funktioniert, das ist auch beim zweiten Blick gar nicht so wahnsinnig überraschend.

00:53:45: Und jetzt weißt du warum ich in meinem Urlaub diesen Podcast durchproduziere?

00:53:50: Weil es eben zu viel aufzuarbeiten!

00:53:54: Und es ist zu, wir sind dafür hier zu kleinteilig unterwegs um da so längere Pausen wirklich zu machen.

00:54:01: Also auch für mich selber.

00:54:02: Ich mag das getrieben sein aber ich will kurz nach weil du es gerade angesprochen hast wie gehen wir denn eigentlich mit unseren jungen Menschen um?

00:54:08: Ich habe noch bisschen Meldungen der Kinderärzte verbannt.

00:54:14: sieht gravierendes Elternversagen und fordert jetzt harte Regeln für Plattformen, so wird das Ganze zitiert.

00:54:20: Und zwar hat der Berufsverband der Kinder- und Jugendärztinnen BVKJ von der Bundesregierung harte Regel gegen Social Media Plattform gefordert weil es eben ein gravierendes Elternversage gibt und möchte jetzt quasi die Diskussion um ein Social Media Verbot noch mal ein bisschen weiter vorantreiben.

00:54:37: an der Stelle

00:54:38: Habt ihr denn hier eigentlich auch schon mal, das habe ich jetzt nicht mitbekommen über diese UD-Wallet?

00:54:42: Also Eudie Wallet.

00:54:43: Ja also aber schon lange her.

00:54:46: Weil ich hab nämlich gedacht sich die Debatte so verfolgt haben und das Problem ja immer ist dass man für eine Altersangabe auch den kompletten Ausweis zeigen muss oder so.

00:54:54: Ist das doch eigentlich.

00:54:55: eine ganz gute Möglichkeit wäre, dass man sein Alter nachweisen kann ohne zu viel über sich selbst zu verraten.

00:55:00: und dann würde ich denken es ist gar nicht so schlimm wenn man jetzt politisch erstmal nicht so wahnsinnig viel erreichen kann, dann macht man erst einmal sowas Vormann dann irgendwann die Plattform dazu bewegt, ihr Design etwas anzupassen?

00:55:12: Ja im Grunde hast du recht.

00:55:13: Die Realität ist aber A., dass dieser IUDI Wallet relativ schnell schon gehackt wurde.

00:55:19: Dass sie B., keine Sicherheit bietet das junge Menschen nicht trotzdem ein Weg finden.

00:55:24: C., diese Gesetze sich vor allem an große Plattformen richten d.h.

00:55:28: die ganzen Kleinen, die gar nicht reguliert werden davon gewinnen würden.

00:55:31: und D., Ich hab mein D vergessen, wie immer wenn ich eine Auflösung mache.

00:55:38: Aber jetzt habe ich mich so reingegesetzt!

00:55:39: Und

00:55:39: dann E?

00:55:44: Also du hast natürlich im Kern recht trotzdem nicht die Welt des freien Internets, in der es eine Passüberprüfung gibt egal wer sie durchführt.

00:55:56: Okay ja das kann gut verstehen und ich finde das auch nicht so ideal aber...

00:56:00: Achso ich weiß mal ein D wieder weil du sagtest erst einmal zu machen.

00:56:04: Du glaubst ja nicht wirklich, dass irgendwann gesagt wird, jetzt schaffen wir das Verbot und die Verifikation wieder ab?

00:56:09: Weil jetzt glauben wir werden sich die Plattformen daran halten was wir ihnen vorschreiben.

00:56:12: Das wird ja nicht passieren!

00:56:14: Also ich glaube wenn der Geist einmal aus der Flasche ist kriegst du ihn nicht wieder rein.

00:56:19: Stimmt so.

00:56:20: Auf jeden Fall der Bundesverband der Kinder- und Jugendärztinnen sagt sie sind zwar generell offen für ein Verbot, glauben aber das Verboot ist unzureichend.

00:56:27: man sieht an Australien das acht von zehn Jugendlichen das Verbott missachten Plattform trotzdem benutzen kann.

00:56:33: Das heißt, man müsse eigentlich viel härtere Regeln für die Betreiber entwickeln oder auf den Weg bringen und man müssee in der Politik endlich handeln.

00:56:44: Wir haben längst die Möglichkeit Nationalbedingungen für Plattformen zu setzen.

00:56:47: andere wie England machen das vor.

00:56:50: Vorschläge liegen auf dem Tisch.

00:56:51: sie müssen jetzt nur ohne Rücksichtnahme auf Prinzerne beschlossen

00:56:54: werden.".

00:56:55: Und da würde ich sagen, da bin ich glaube ich auf derselben Seite wie die Kinder- und Jugendärztinnen.

00:57:01: Ja auch!

00:57:02: Aber

00:57:02: trotzdem glaube ich nicht, dass es passieren wird.

00:57:06: Das ist ja tatsächlich so... Also all das was jetzt passiert ist, das deutet doch sehr darauf hin, dass auch darum geht irgendwie nach außen ein Zeichen zu setzen, denn die meisten Menschen beschäftigen sich damit eh nicht.

00:57:19: Was das genau bringt oder so?

00:57:20: Dann kann man immer noch sagen wir haben noch dieses Verbot hier beschlossen oder diese Altersprüfung und ob das am Ende wirklich wirkt ist möglicherweise gar nicht so wichtig, was auch schade ist natürlich.

00:57:33: Ja!

00:57:33: Natürlich das Problem ist halt dass diese Kenntnismangel leider offenbar auch bei denen besteht die am Ende tatsächlich diese Plattformen am Ende regulieren sollen und die aber gleichzeitig Angst davor haben, dass Zelle folgen können.

00:57:51: also wir nicht die Hand habe, dass es einen wirklichen Lösungsvorschlag auf den Tisch gibt.

00:57:58: Die Plattformen so zu regulieren, dass eben solche Dinge wie das eben schreckliche besprochene TikTok-Beispiel oder aber auch die suchtähnliche fördernde Maßnahmen tatsächlich weiterentwickelt und angeboten werden.

00:58:12: Das ist ja etwas was du tun musst und das betrifft eben nicht nur junge Menschen.

00:58:17: also Es wäre ja schon wahrscheinlich total viel geholfen wenn ich ... TikToks standardmäßig einen endlosen vertikalen Videofit hätte.

00:58:25: Sondern du den Händisch einschalten musst und zwar jedes Mal, wenn du damit hättest so wahrscheinlich schon super viele Probleme gelöst!

00:58:31: Und damit will ich einfach nur sagen es gibt ganz viele kleine Dinge an denen du arbeiten kannst.

00:58:35: das aber einfach zu sagen für junge Menschen im Wechselraum weiß man nicht.

00:58:40: Wie optimistisch bist du denn dass das klappen wird so etwas zu etablieren?

00:58:47: Ich bin leider so ein bisschen... Ich bin leider so ein bisschen frustriert von dem, was wir hier so immer berichten.

00:58:56: Aber ich glaube halt dass ein Verbot das eben auch nicht lösen würde und auch nicht funktionieren würde.

00:59:03: Ich bin auch leider... Was das angeht etwas desillusioniert weil ich immer das Gefühl habe, dass so große Schritte eh nur dann kommen wenn irgendwas Schlimmes passiert.

00:59:11: also dann auf einmal gibt es irgendwie so einen Fenster da sich öffnen und alle wollen irgendwas tun.

00:59:15: Also wenn jetzt jetzt so ein Fall wäre wie dieser TikTok-Fall, über den wir da gesprochen hätten und der würde eine große Öffentlichkeit bekommen.

00:59:21: Da würde eine gesellschaftliche Debatte stattfinden.

00:59:24: Dann würden Politiker in Zugzwang geraten irgendwas entscheiden müssen und möglicherweise würde dann tatsächlich sowas auch passieren.

00:59:30: Aber im Moment kann sich ja immer nicht sagen also gut wird jetzt nichts passieren aber es nicht

00:59:35: beschließen.".

00:59:37: Das heißt eigentlich muss die Spitzenpolitik viel mehr Haken hören?

00:59:42: Genau, das wollte ich sagen.

00:59:45: Das ist was denn geblieben ist?

00:59:46: Jetzt ist es hier so düstere... Ich wollte gar nicht mit dir so düster rausgehen!

00:59:49: Ich habe gedacht wir machen uns das jetzt sehr bequem.

00:59:51: Es

00:59:52: ist immer das gleiche.

00:59:53: Ja ja, haben

00:59:55: wir da nichts irgendwie...?

00:59:56: Ich

00:59:57: hab eine Geschichte.

00:59:57: die ist ein bisschen lockerer.

00:59:59: Die will ich...wollte ich Ihnen auch unterbringen.

01:00:02: Die passt dematisch gerade nicht ganz so aber vielleicht reißt du das ein bisschen raus.

01:00:05: und zwar haben wir in den letzten Wochen sehr viel darüber gesprochen wie sich diese ganzen AI-Systeme ... von sich aus in Anführungsstrichen, von sich... ...aus irgendwo anders reingeheckt hätten.

01:00:15: Wir erinnern uns auf mein Ei und Glot und Meter und Mistral hat es mittlerweile auch gemacht um Google und alle.

01:00:21: So jetzt gibt's aber die Geschichte!

01:00:24: Und die fand ich irgendwie süß und lustig weil das so... Es ist eigentlich nichts Schlimmes passiert und so Also bisschen auch ärgerlich, aber auch irgendwie witzig.

01:00:32: Und zwar gibt es einen Nutzer in Australien und der nutzt OpenClaw.

01:00:36: Das ist dieser Agent mit dem du mithilfe von anderen KI-Systems, Chatbots Modellen so agentische Dienstleistungen anspruch nehmt kannst.

01:00:44: Das was Max Ackerberg gerne für alles hätte – Kindergeschichten und Rezepte und alles.

01:00:48: Der hat OpenCraw gebeten ein Platz in einem Kurs in seinem Fitnessstudio zu reservieren Und da kam dann aber erst mal das Ergebnis, dass der Kurs voll ist und es gibt eine Warteliste.

01:01:01: Und dann hat er gesagt, kannst du nicht irgendwas machen?

01:01:05: Also so auch wieder ne wie immer die Kaini von sich aus gehackt sondern die hat schon kleine Schubsa gekriegt.

01:01:13: Und tatsächlich... hat der KI-Agent dann geantwortet.

01:01:18: Ja, wir haben dich jetzt mal hier von Platz vier auf Platz drei der Warteliste gesetzt und einen anderen Teil von der Wartsliste runtergeschmissen weil er sich in dieses System halt reingefremelt hat.

01:01:28: Gleichzeitig hatte der KI Agent gesagt Wir haben dich aber auch für ein Kurs in mehreren Wochen eingetragen obwohl das über die Website noch gar nicht möglich ist.

01:01:36: also der KI Agent hat sozusagen verstanden wie das System funktioniert diesen Andrew, so heißt der Nutzer hier einfach schon eingetragen.

01:01:48: Was so ein bisschen auch zeigt, dass selbst das kleine Fitnessstudio von nebenan sich langsam Gedanken machen müsste wie Cyber sicher eigentlich ihre Infrastruktur aufgebaut ist?

01:01:57: Es ist ein bisschen, ich finde es irgendwie eine witzige Geschichte, auch wenn das halt natürlich trotzdem auch ein Doof ist!

01:02:03: Das ist natürlich auch wieder ein kleines bisschen düster, aber egal.

01:02:07: Natürlich auch im Grunde das Gleiche über was wir eben gesprochen haben.

01:02:10: weil für das Fitnessstudio ist es ja so dass man bislang immer gesagt hat naja okay warum sollen wir das Passwort Test eins zwei drei jetzt ändern?

01:02:16: Es sind zwanzig Jahre nichts passiert.

01:02:18: Ich

01:02:18: kann übrigens ganz kurz wenn ich da reinschmeißen darf ganz kurz du hast natürlich recht Aber das Fitness-Studium hatte gar keine Autorisierungsüberprüfung um das Canceln von Reservierung anderer Personen.

01:02:28: Ja, ich meine nur tatsächlich weil es ein Fitnessstudio betrifft.

01:02:30: Also wie's jetzt konkret war weiß ich auch gar nicht.

01:02:32: aber tatsächlich betrifzt auch ein kleines Fitnessstudium und das gibt ja immer mehr Fälle die dann irgendwie wo man merkt so Sicherheitslücken bleiben dich einfach unentdeckt sondern wenn irgendwelche Maschinen im Internet unterwegs sind die den ganzen Tag Zeit haben danach zu suchen ob da nicht irgendwelchen Lücken sind oder so Dann will mal welche finden und dass ist natürlich so'n Fall wo man als Also auch als kleines Unternehmen beispielsweise, dann sagen wir vielleicht müssen jetzt doch irgendwas zur IT-Sicherheit machen.

01:02:57: Weil es nicht mehr wahrscheinlich ist dass wir damit noch zwanzig Jahre durchkommen und muss dich auch daran denken das du also in den letzten Folgen oft darum gehst, du glaub ich gesagt hast dieses Dämonisieren von KI oder vom Menschlichen, dass man sagt er hat sich da reingehackt oder hat irgendetwas gemacht und ist völlig außer Kontrolle geraten.

01:03:14: Das ist natürlich einerseits nicht gut, aber vielleicht kann genau das diese große Angst vor diesen Dingen dazu beitragen, dass politisch Druck ausgibt und tatsächlich irgendwas passiert.

01:03:23: Ich weiß es nicht, aber im Grunde hast du natürlich recht!

01:03:27: Und vielleicht ist das so der Weg?

01:03:29: Weiß ich auch nicht wo das jetzt hinführt in meinem Kopf, aber ich dachte gerade... Hey, vielleicht führt es am Ende dazu wie beim Friseur, der das jahrelang gemacht hat.

01:03:36: Bevor ich zu meiner jetzigen Frisur gegangen bin bei der ich wirklich bin und diesen Podcast hört, liebe Grüße!

01:03:41: Dass es einfach so eine handschriftliche Liste gibt, indem du das alles einträgst.

01:03:47: Weil da kann Klood noch nicht... Da kann auch niemanden rausschmeißen aus einer handschrifftlichen Liste.

01:03:51: Vielleicht ist das auch irgendwann der Weg daraus.

01:03:56: Man hat ja immer vor Augen, oh Gott jetzt wird alles mit KI gemacht und alles funktioniert so Max Zuckerberg mehr sich automatisch sogar im Fitnessstudium man muss nicht mal selber die Gewichte drücken oder so weil das macht alles.

01:04:07: der Agent könnte ja sein, dass es dann irgendwann wieder ein Fitnessstudio gibt.

01:04:12: Das sagt so hey bei uns haben wir handschriftliche Anmeldelisten und so und da denken wir auch da will ich hin das ist noch richtig schön menschlich und wohlig und nichts elektronisch.

01:04:21: und das ist dann vielleicht der Grund dafür da dann Vertrag zu machen möglichst alles in Bar bezahlen natürlich.

01:04:30: Da hast du mich verloren jetzt.

01:04:32: Aber es geht jetzt gerade zum Screenshot um von jemandem, der eine Präsentation Vortrag gehalten hat und unten in der Fußnote stand das alle M-Dashes also alle Gedankenstriche Human Mates sind Also von Menschenhand eingefügt worden in die Präsendition.

01:04:45: Was ist denn nochmal M Dashes?

01:04:46: Diese Gedankenstrichen

01:04:49: Halbgefälschte

01:04:49: Ja genau

01:04:50: Okay ja okay alles.

01:04:55: Und dann muss man's auch nach dem Ajax nicht mehr kennzeichnen wenn man Wenn man so, sagen wir redaktionell bearbeitet hat.

01:05:04: Genau!

01:05:06: Das hier müssen wir auch nicht kennzeichnen aber wir kennen das als schöner Einstand.

01:05:10: Ralf ich hoffe du kommst jetzt wieder.

01:05:11: Ich habe dich noch nicht ganz verprält mit den Düster.

01:05:13: Ja

01:05:14: total gerne, das war sehr schön.

01:05:16: Ok dann sehen wir uns bald wieder und ich freue mich und du musst natürlich jetzt.

01:05:19: die Folge ist ja jetzt eine Stunde sechs alt.

01:05:21: es heißt um sechs Uhr sechs am Mittwoch morgen guckst du direkt in einen Discord und schaust was haben die Haki's geschrieben?

01:05:29: Oder bei Campfire.

01:05:30: Vielleicht muss

01:05:30: ich brauche hier auch ein bisschen, vielleicht muss sich ein bisschen Mut nach dem Frühstück

01:05:34: antrinken.

01:05:37: Lieber Reif, danke dass du hier warst!

01:05:38: Danke ihr alle die bis jetzt zu gehört haben vielen vielen Dank.

01:05:41: euch habt eine ganz wundervolle restwoche.

01:05:43: wir hören uns am freitag wieder mit jahre knötler und ich habe sonst nichts zu sagen außer passt auf euch auf cremt euch einen und danke euch tschüss.