Der Wahlzettel ist auch ein Kassenbon (mit Farangies Ghafoor)

00:00:00: Hallo, Farangis.

00:00:01: Hallo.

00:00:03: Bei mir ist heute Farangi Scafuhr, Redakteurin im Wissenschafts-Ressort des Tages Spiegels und vor allem eine Person die sich sehr viel mit Big Tech auseinandersetzt und du stehst auf dieser Liste der Menschen bei denen ich immer denke ach die muss ich endlich mal einladen.

00:00:15: und jetzt freue mich dass es endlich geklappt hat und das ich mich überwunden habe dich einzuladen in diesem Podcast.

00:00:20: Das ist auf jeden Fall eins der größten Komplimente, die ich hier bekommen habe für meine Arbeit.

00:00:24: Nein, ich bin wirklich sehr dankbar für die Einladung.

00:00:26: Ich finde mich wirklich ganz geehrt.

00:00:28: Es ist schön mal so seine ganzen Gedanken zu allem was Tech-Up geht und Big-Tech abgeht oder in der Gesellschaft, in dem Zusammenhang abgeht irgendwie mal mit dir zu diskutieren und hier rauszulassen.

00:00:38: Was ist jetzt – ich muss übrigens dazu sagen wir nehmen diese Folge schon Mittwochabend auf!

00:00:42: Das heißt alles was am Donnerstag passiert ist hört ihr erst am Montag bei uns.

00:00:47: Was sind denn jetzt gerade Mittwochsabend elf der Elf da knapp halb neun?

00:00:50: Was sind die Gedanken, die du zur Big Tech gerade so oft auf Leitung eins im Kopf hast wo du sagst boah das umtreibt mich grade.

00:00:58: gibt es da irgendwas worüber du sprechen kannst?

00:01:00: Also so ganz akut ist es, glaube ich grundsätzlich immer dieses sehr allgemeine von wie greift Big Tech in unser Leben ein?

00:01:10: und wie laufen gleichzeitig Regularien von Politikern und Politikern?

00:01:15: Wie viel Bock haben die eigentlich, Big Tech zu regulieren und Tech zu regulieren.

00:01:18: Und wenn sie dann Regularien rausbringen, wessen Handschrift ist da eigentlich drin zu lesen?

00:01:22: Ist das die Handschrift... das Verbraucherschutzes?

00:01:25: oder es ist die Handschrift, der Tech-Unternehmen.

00:01:28: Und was heißt eigentlich ihr Einfluss für uns als Bürgerinnen und Bürger?

00:01:32: Wenn wir ja mittlerweile sogar zugeben müssen dass einige dieser Unternehmen teilweise sogar mächtiger sind als Nationalstaaten und das ist glaube ich immer so diese Gedanke der mich konstant begleitet wenn ich über Tech nachdenke und Big Tech nach denke

00:01:46: Ich würde dir zustimmen, das sind so Themen die uns ja schon die ganze Zeit beschäftigen.

00:01:49: Gleichzeitig denke ich mir aber auch und das ist ein Thema dass mich gerade total umtreibt wie sehr wir eigentlich mit Doppelstandards unterwegs sind.

00:01:56: also ich komme mal mit einer Geschichte um die Ecke die mich so umtrieben hat als sich heute durchs Internet gegangen bin.

00:02:02: Wie ich das mache, weil es jeder Mensch der eine gute mentale Gesundheit hat.

00:02:06: Um sechs Uhr dreißig morgens den Tag begonnen mit einer halben Stunde durch die VU-Patch scrollen Und was ich dann so festgestellt habe, dass sich halt extrem viele Deep Fakes von Jensen Wang sehe.

00:02:17: Nvidia-Chef der Mann, und wir haben in den letzten Folgen auch erklärt warum wir das nicht so kleinteilig auseinander nehmen wollen aber demnach gesagt wird eine Affären mit einer chinesischen Spionin oder vermeintlichen Spionen gehabt zu haben.

00:02:28: Eine Geschichte die eigentlich soweitgehend boulevard ist.

00:02:31: Aber dann ist mir aufgefallen, dass jetzt ganz viele Leute die sonst super KI kritisch sind oder die Probleme mit der Versloppung haben.

00:02:37: Dass sie jetzt kein Problem damit haben unter solche Videos zu kommentieren wie witzig das er ist wenn es eben den richtigen in Anführungsstrichen trifft.

00:02:45: Und ich bin dann aber vielleicht bin ich auch zu sehr PC oder zu sehr auch schon abgeschliffen von diesem Podcast.

00:02:52: Aber ich denke mir dann so ja, dass ich verstehe warum man das witzig findet.

00:02:55: Aber am Ende bleibt es hier trotzdem ein Deepfake von einer Person die nicht möchte, dass sie in diesem Video auftauchen.

00:03:01: Kannst du meinen Störgefühl verstehen?

00:03:02: Oder bin ich allein?

00:03:03: Nein, ich breche jetzt eine Lanze für beide Seiten.

00:03:07: Ich verstehe deinen Störgefühl, weil dein Stör gefühlt sehr stark an dem Prinzip hängt.

00:03:10: Nämlich kann ihr die Pecks von Leuten, die das nicht möchten und die dagegen sind.

00:03:13: Wir wollen das ja von niemandem von uns.

00:03:16: Gleichzeitig finde ich die Videos leider auch sehr lustig.

00:03:19: Und ich glaube wir haben hier so ein bisschen wieder diese Situationen, die wir häufig bei Milliardären haben wenn denen irgendwas passiert Das Menschen, dass tatsächlich einfach sehr lustige finden nach oben zu schießen und sich über die Leute da oben lustig zu machen Was ja natürlich auch einhergeht mit dem Gedanken von so, na gut.

00:03:35: So einen.

00:03:35: Jensen Hoang ist extrem reich.

00:03:37: Dem werden seine Deepfacts schon nichts antun.

00:03:39: Der sitzt mit Donald Trump an einem Tisch und der wird mit Donald um die Welt fliegen.

00:03:44: Er ist auf Kurzwahl-Taste bei Konferenzen wenn er auftritt.

00:03:47: Und Donald Trump ruft ihn an uns zu telefonieren.

00:03:49: Das ist also niemand, der wirklich unter seinen Deepfax ladet.

00:03:52: Deswegen kann ich dieses Gefühl das man zwitzig finde total nachvollziehlich verstehe.

00:03:56: aber wenn du aus dieser Perspektive ... des Prinzips kommst und sagst, ich finde das prinzipiell falsch... ...und dieses Prinzip, dass das Recht hat erst mal jeder.

00:04:05: Ich glaube dann aber gesellschaftlich sowas entsteht wie so naja... ...ich und Jensen Hoang oder du und Jens Hoang steht eben nicht auf der gleichen Stufe.

00:04:12: Für dich bedeutet ein Deepfake was anderes als es für Jensen hoang bedeuten kann?

00:04:16: Das ist so hundertprozent richtig zumal ja ohne Jensen Wang diese Deepfakes niemals erstellt worden wären weil all diese KI über seine Chips trainiert wurden.

00:04:24: am Ende!

00:04:26: Aber interessanterweise habe ich dann den zweiten Gedanken gehabt, dass die andere Person in meinem Kopf, die über so eine Fake-Affäre slash Beziehung ausspioniert wurde und Informationen über sie gesammelt wurden.

00:04:38: An die ich mich erinnere DesoDoc war und dachte dann so, also Jensen Wagen und Desodoc haben mehr miteinander zu tun als ich mit einem von diesen beiden Und auch das fand ich irgendwie einen versöhnlichen Gedanken auf einer

00:04:49: Art Ja, aber ich glaube weißt du das Schöne ist ja dass du irgendwie ein Störgefühl spürst und nicht ganz abgestumpft bist.

00:04:55: Und maybe in these times brauchen wir auch irgendwie Prinzipien an die man sich halten kann.

00:04:59: Es ist ja okay!

00:05:00: Wir sitzen hier um uns über diese Prinzipien auszutauschen und Störgefühle auszutauschen.

00:05:04: Wir sind der Ort an dem gesellschaftliche Verhandlungen passieren.

00:05:08: Aber wir haben damals auch schon hier im Podcast ein Störgefühl mit der Codeplay-Geschichte gehabt, mit diesem CEO.

00:05:14: Ja,

00:05:14: kann ich verstehen!

00:05:15: Kann ich verstehen?

00:05:16: Ich fand es trotzdem witzig... ...ich bin eine Tochter des Internets, mich holen Memes sofort ab, mich hole sowas sofort ab.

00:05:22: Ich find das großartig.

00:05:24: Ja und weißt du, ich bin auch ein Kind des Internetts und ich habe aber so Angst dass mir da gerade Dinge bei mir kaputt gehen, dass sich halt über sowas dann nicht lachen.

00:05:31: Was ist die Lehre

00:05:32: daraus?

00:05:32: Keine Affäre.

00:05:34: Ich finde das die Lehren von Roussons.

00:05:35: Fair So, ich möchte leider mit einer Geschichte heute reingehen die so ein bisschen dark ist und wo ich direkt dazu sagen muss.

00:05:45: Also es geht jetzt gleich hier um sexuellen Missbrauch von Kindern.

00:05:49: wenn ihr das nicht gut hören könnt seht ihr in den Kapitel marken wir auf das nächste Thema springen könnte es.

00:05:54: wir berühren das thema aber nur peripher weil dass etwas, um dass es nicht wirklich geht sondern worum es der politik geht.

00:06:00: wir gehen nach spanien denn in spanien macht im moment eine große recherche die runde.

00:06:05: das faktencheck portal maldita.es hat mehr als tausend videos mit darstellungen von sex einem kindesmissbrauch entdeckt und zwar auf tiktok die insgesamt mehr als acht vierzig millionen auffrüfe erzielt haben sollen.

00:06:17: also so inhalte wo man sich denkt Ab einer gewissen Größe und ab einer gewisse Reichwerte wäre es vielleicht doch mal ganz gut, wenn ein Contentmoderationsteam mit drauf schauen würde.

00:06:26: Das passierte hier aber offenbar nicht.

00:06:27: gleichzeitig haben die Autoren dieser Recherche mehr als zwanzigtausend Profile von mutmaßlichen Pädokriminellen gefunden.

00:06:34: so ist die Formulierung.

00:06:36: das Mutterschrift heise hier gewählt hat Und deswegen erwegt jetzt die spanische Regierung TikTok gänzlich abzuschalten, weil sie dieser der Sicherheit der Menschen auf der Plattform sowohl den dies benutzen als auch denen die gezeigt werden nicht sicherstellen kann.

00:06:53: Was ich einen unglaublichen Schritt finde.

00:06:56: also diese Eskalationsstufe haben wir nach meinem Gefühl innerhalb Europas jedenfalls so noch nicht erlebt

00:07:03: Überhaupt nicht, das ist ja auch... Also es ist auch gerade irgendwie nochmal... Ich sitze hier in Berlin gerade während wir das besprechen und wir hatten jetzt gerade den Fall mit der leider getöteten, umgeleiten Mädchen Lisa T., die auch von dem mutmaßlichen Pädokriminellen umgebracht wurde.

00:07:19: Weswegen das natürlich während wir diskutieren noch mal viel schwerer wiegt?

00:07:23: Ich glaube aber was mich extrem beschäftigt, ist diese Zahl von achtundvierzig Millionen Aufrufer also Tausend Videos, die kann man mal irgendwie übersehen oder tausend Aufrufe.

00:07:34: Das sind Videos, das vielleicht durchrutschen.

00:07:36: Aber achtundvierzig Millionen Aufrufen entstehen nur wenn ein System dieses Video auch Leuten immer ausspielt und zeigt.

00:07:44: Und das ist das was mir so ein bisschen den ja nochmal diesen Schau bei den Rücken läuft laufen lässt.

00:07:52: Ich finde all das daran verrückt.

00:07:53: ich find es verrückt dass eine Redaktion in fünf und dreißig Tagen diese schrecklichen gewaltvollen Videos gefunden hat.

00:07:59: TikTok gleichzeitig tausende Moderatoren hat, wahrscheinlich auch digitalisierte Moderaturen hat und eine eigene Erkennungssoftware.

00:08:07: Und entweder haben sie es nicht gesehen oder sie haben nicht gehandelt.

00:08:10: Und egal was davon ist das ist ein Problem.

00:08:13: Das ist ein riesiges Problem.

00:08:15: Ich verstehe dass dann natürlich der schnellste Schritt wäre.

00:08:18: wir wollen dass irgendwer diese Art von Gewalt erfahren muss.

00:08:22: Wir wollen erst recht nicht, dass Kinder dieser Art von gewalt erfahren müssen und auch in dieser Form dargestellt werden.

00:08:26: Ich glaube das trifft bei allen Menschen einen extrem wunden Punkt und macht ein extrem emotional.

00:08:32: Deswegen verstehe ich diesen Schritt zu sagen wir denken über eine Sperre nach.

00:08:38: Das klingt total konsequent Heißt aber auch man trifft Millionen normale Nutzer und löscht damit aber gleichzeitig kein einziges Video.

00:08:46: Denn das Internet endet nicht an den Grenzen Spanians, an die Nationalgrenze Spaniens.

00:08:52: Es wird nicht an die nationalgrenzenden Spanien enden.

00:08:55: Und auch diese Videos leider Gottes enden sie nicht an irgendwelchen nationalen Grenzen oder in irgendwelche Altersgrenzen.

00:09:03: Auch das ist nochmal ganz wichtig zu betonen!

00:09:07: Ich glaube ein Hebel, der wirklich wehtun würde und man finde ich sollte auch diese Plattform für solche Gewaltdarstellungen definitiv zur Rechenschaft ziehen.

00:09:15: Aber das sind Strafen nach EU-Recht und die könnte man auch an weltweitem Umsatz bemessen.

00:09:20: Wir kommen später noch mal zu zum grundlegenden Thema aber wir eine Späre bräuchte einen Rechtsgrundlage und zuständige Behörden.

00:09:27: es ist auf die Frage ob mit dem Digital Services Act der komplett in der EU gilt, kann Spanien überhaupt diese nationalen Alleingang machen.

00:09:34: Weil er klingt erst mal gut und er kommt gut an.

00:09:36: Er kommt erst recht in so einem schrecklichen Fall extrem gut an aber er ist auch zum Scheitern verurteilt wenn es um nationale Alleingänge geht.

00:09:43: Frankreich konnte auch keine nationalen Alleingänge bei einer Social Media Sperre machen wurde direkt wieder gerichtlich gekippt.

00:09:52: Das Ministerium hat jetzt gerade die Staatsanwaltschaft gebeten, das zu prüfen.

00:09:55: Es wäre krass!

00:09:56: Ich finde eine Sperre leider Gottesbist muss man eben auch sagen absolut undemokratisch, dass auch so durchzusetzen.

00:10:03: aber es gibt Rechtssysteme und Rechtsysteme können auch wirken wenn man sie nicht lange auf die Bank schiebt und sie mal wirken lässt und wirklich nicht nur mutig genug ist sondern vielleicht auch das ganze Lobbying Wenn man sich trauen würde, sich da mal gegenzustellen.

00:10:19: Ich finde das unheimlich mutig damit zu drohen.

00:10:22: aber ich glaube realistisch gesehen kann ich mir nicht vorstellen dass sie Tech Talk in Spanien verbieten werden?

00:10:27: Ja ich glaube das europarecht ist ein ganz guter Punkt.

00:10:30: wir haben das damals im Social Media Verbot ja sehr eng hier damals auch begleitet weil da kam dieser schöne Begriff auf der voll harmonisierenden Wirkung.

00:10:38: Also der DSA darf eben nicht überschrieben werden von nationalem Recht und es gibt ihn bei Digitalplattformen, dass die Hoheit für Rechtsprechung aufseiten der EU.

00:10:48: Deswegen hast du komplett recht!

00:10:49: Auf der anderen Seite hat ja jedes Land das Recht für den Schutz seiner Bürgerinnen zu sorgen und festzustellen, dass hier eine Software existiert.

00:10:58: übrigens von diesen zwanzigtausend Profilen, die identifiziert wurde sind mehr als siebentausend Spanischsprachig Ob sie jetzt spanisch sind oder möglicherweise in den vielen anderen Tagen dieser Welt, dem in denen Sie Spanisch sprechen.

00:11:08: Das wissen wir nicht aber Ich finde das so als Exempel Oder zumindest als Drohkulisse seitens einer Regierung zu sagen Das war jetzt der Schritt zu viel und hundertprozentig hast du recht dass dieser Fall und die Öffentlichkeit die dieser fall auslöst Natürlich dabei hilft die politik zu solchen bewegungen zu motivieren.

00:11:28: Aber könntest du dir vorstellen dass ein friedrich mert etwas ähnliches fordert der sich unendlich vielen Fällen niemals geäußert hat, die irgendwie mit digitaler Gewalt zu tun gehabt haben.

00:11:39: Also dass es eine Politik gibt, die dafür jetzt möglicherweise vielleicht auch mit Druck der Öffentlichkeit – ich weiß nicht, Sierra Rego ist die Ministerin, die hier für zuständig ist – die jetzt schon einen Schreiben ein TikTok abgeschickt hat in dem sie um ein dringendes Treffen mit Verantwortlichen bittet oder sie verlangt das sogar die Formulierung, um Erklärungen und Informationen über bereits ergriffene sowie geplante Schutzmaßnahmen zu erhalten.

00:12:01: also man baut hier das größtmögliche Druckmittel auf, um zu sagen also hey TikTok wenn ihr das jetzt nicht sofort in den Griff kriegt dann machen wir euch hier die Bude zu.

00:12:11: Und bis es vom Europarech dann alles einkassiert wird und so bis dahin hat TikTok ja schon Millionen verloren in Spanien eine Situation diese sich auch gar nicht erlauben könnten.

00:12:21: Ich finde daran aber so interessant, dass ich eben die spanische Politik das traut.

00:12:25: Mal soweit zu gehen ist natürlich mal wieder eine Schande, dass es erstmal so einen schlimmen Fall geben musste.

00:12:30: Es ist eigentlich auch nach meinem Ermessen ne Schande Auch wenn das unsere Aufgabe ist Dass das nur mithilfe von Journalismus funktioniert wie so oft.

00:12:38: Also dass hier nicht von Rechtsbehörden Von Sicherheitsbehörde und wem auch immer solche Ungerechtigkeiten schon identifiziert wurden Das einfach keine digitale Streife in sozialen Medien gibt total kritisieren würde, finde aber den Vorgang bemerkenswert um es mit Robin Alexander zu sagen.

00:12:58: Ich glaube ich würde das bei dem Begriff bemerkswert lassen.

00:13:00: also ich kann mir nicht vorstellen da kann ich mich nicht vorstellen dass überhaupt irgendwie realistisch ist in seiner Umsetzung weil auch das was du noch mal erwähnt hast und der voll harmonisierenden Wirkung auch das ist abhängig davon.

00:13:14: Also wenn Spanien sagt, wir wollen TikTok sperren und das gründet über den Kinder- und Jugendschutz.

00:13:18: Dann funktioniert dieser nationaler Alleingang nicht bis wird wieder einkassiert werden.

00:13:23: Die Frage ist ja so ein bisschen Sie reagieren jetzt so weil videos gefunden?

00:13:28: oder die Frage ist Ja sie reagieren Jetzt So Weil Videos mit forty Millionen Aufrufen Wären.

00:13:34: Nicht Ein einziges Video Mit einem einzigen aufruf.

00:13:36: Eigentlich genug diese Drogen Auszusprechen.

00:13:39: also Diese Druckkulisse wird aufgebaut weil sie auch, wie sagt man den gleichen Maßstab hat zu dem was Journalisten und Journalistinnen gefunden haben.

00:13:47: Gleichzeitig!

00:13:49: Auch spanische Politikern und Politiker sind abhängig von digitalen und sozialen Medien.

00:13:55: Sie haben vielleicht sogar das Bedürfnis, diese Plattform gar nicht abzuschalten weil sie dort unwidersprochen ihre eigenen Inhalte und ihre eigenen PR-Geschichten und wenn man es vielleicht als beschreiben will was es ist nämlich politische Propaganda Geschichten verbreiten kann dann besteht darin kein Interesse diese Apps abzuscheiden.

00:14:13: Und das wissen wir auch aus Geschichten in denen klar wird Politische Reguliererinnen und Reguliere Politikern und Politiker sich mit Vertretern von sozialen Medien treffen, um vielleicht zu diskutieren.

00:14:24: Wie kriegen wir unsere Inhalte auf die Plattform?

00:14:26: Hey wie kann ich als Parteipolitiker dafür sorgen, dass ich mehr Reichweite habe?

00:14:30: Da ist also kein genuines Interesse dahinter diese Plattform abzuschalten wenn man interessiert es an der Wahlarätmethek, also nämlich daran Wahlen zu gewinnen.

00:14:41: Ja, wir erinnern uns daran, dass doch damals genauso eine Diskussion um Habeck und sein Team stattgefunden hat.

00:14:46: Wo sie überlegt haben wie der Algorithmus jetzt funktioniert?

00:14:48: Und werden Sie gedrosselt?

00:14:50: Das stimmt alles!

00:14:51: Ich halte das in einer Demokratie nicht für unproblematisch.

00:14:55: Dass Politiker selber zum Sender werden weil da das Korrektiv zwischen fehlt.

00:14:59: Da würde ich dir zustimmen.

00:15:02: Ich bring trotzdem noch mal eine Gegenperspektive rein.

00:15:05: Wir wissen aus Recherchen oder anders, es gibt Recherchen die nahe legen.

00:15:09: So ist es glaube ich richtig gesagt das ist bei TikTok eine redaktionelle Auswahl gibt für Inhalte die eine gewisse Größe erreichen.

00:15:15: also es gibt so ne Art nach diesen Recherchen eine Art natürliches Ende der richtigen organischen Reichweite und ab dann muss ein Hebel umgelegt werden.

00:15:24: Es gibt ein paar Accounts, die da nicht runterfallen aber wenn man sich anschaut dass es so mittelgroße Account selten über drei hunderttausend Aufrufe schaffen Dann könnte man das Gefühl bekommen, dass an diesen Recherschen vielleicht was dran ist.

00:15:34: Wenn du hier Videos mit achtundvierzig Millionen aufrufern hast also insgesamt Also kann natürlich auch sein, dass jedes einzelne von denen nicht mehr als dreihundert tausend hat Legt es aber trotzdem nahe, dass man entweder weggeschaut hat oder es hingenommen hat, oder bei gewissen Themen einfach auch diese redaktionelle Vorauswahl nicht trifft.

00:15:53: Also keine Contentmoderation und wenn du aber... also da sind wir wieder in der alten Debatte die wir eigentlich im Moment ja die ganze Zeit führen ist eine algoritmische Vorausswahl ein redaktioneller Eingriff Und der eigentlich entscheidet sich das hier mit darüber weil am Ende haben wir den Plattformprivileg.

00:16:08: Das wird in Spanien schätze ich ähnlich gesetzlich geregelt sein Und damit wären die Plattformen aus dem Schneider juristisch gesehen, sondern diejenigen, die die Inhalte hochgeladen haben.

00:16:19: Die Verantwortlichen.

00:16:21: Wenn aber TikTok eben diese Inhalter an Leute ausspielt muss TikTok dafür auch zur Rechenschaft gezogen werden können.

00:16:26: und naja vielleicht gibt es ja sogar eine europäische Lösung wenn.

00:16:29: das Ministerium hat wohl auch schon eine sofortige und koordinierte Reaktion aller Behörden auf europäischer Behörde eingefordert.

00:16:36: Auf europäisher Ebene also.

00:16:38: vielleicht gibt's ja sogar den ganz großen Knall.

00:16:41: Aber dass da jetzt was passiert, ist glaube ich erstmal ein Schritt in die richtige Richtung.

00:16:46: Das ist auf jeden Fall... Da würde ich dir auch zustimmen.

00:16:50: Ich glaube wir müssen einmal unterscheiden kann dieser Fall dafür sorgen das es eine neue Form von Regulierung gibt oder eine neue form von gesetz oder eine Erweiterung des DSA auf eine extrem strenge Art und Weise, dass jegliche Formen von gewalttätigen Inhalten sofort runtergenommen werden muss plus einer wirklich spürbare Strafe diese Unternehmen trifft?

00:17:11: Gleichzeitig ist die Frage, wie kommen wir dahin?

00:17:13: Kommen wir erst dahin wenn Spanien oder die EU aber sagen wir mal Spanian einen Rechtsstreit gewinnt.

00:17:20: Und dann müsste Spanier dabei erstmal in einem sehr langwierigen Prozess beweisen dass all diese Mechanismen von TikTok ignoriert wurden bei Seite geschafft wurden da keine Content Moderation stattgefunden hat und und und Also wir haben das Problem, dass ein Staat dann beweisen müsste, dass sein Unternehmen sich nicht in die Karten gucken lassen möchte.

00:17:38: Dass es auch trotz des DSA dem nicht so einfach in die Katten guckt werden kann.

00:17:43: Dem nicht so wie Forscherinnen und Forscher, gar Juristinnen und Juristen an irgendwelche Metadaten und Inhalte und algorithmische Abfolgen kommen, dass das erst mal bewiesen werden muss.

00:17:53: Und das Unternehmen bleibt eine Blackbox und sie haben ein Interesse daran, eine Black box zu bleiben.

00:17:58: Das heißt, was auch immer passiert.

00:18:00: Wir können uns darauf einstellen dass es extrem lange dauern wird bis irgendetwas passiert.

00:18:05: Außer Spanien sagt wir schalten jetzt erst mal ab wo ich dir zustimmen würde.

00:18:08: das ist auch nicht nur unproblematisch Aber es wäre immerhin meine Reaktion, es wäre mal immerhin etwas.

00:18:15: Ich muss

00:18:15: davon aufgehen dass TikTok auch dagegen mobilisiert.

00:18:18: wir haben das damals bei Facebook gesehen als Facebook in bestimmten Ländern abgeschaltet werden sollte da Facebook-Kampagnen gestartet.

00:18:24: also damit mit damals nicht vor.

00:18:26: im Jahr hat Facebook große Kampagnien starten lassen und ihr dürft euch eure Stimme nicht nehmen lassen.

00:18:30: die wollen euch euren Stimmen nehmen.

00:18:32: Und ich würde davon ausgehen wenn ich ein Unternehmen hätte und man möchte meinen Unternehmen verbieten in einem gewissen Land und ich verliere dann einen Absatzmarkt.

00:18:40: Der einzige Anreiz in diesem System ist für mich Absatz und Profit.

00:18:43: Und Datensammeln, weil ich daraus Profit mache... ...dann werde ich natürlich dagegen mobilisieren!

00:18:47: Und das wird TikTok aller Voraussicht nachmachen.

00:18:50: Ich werde jetzt nicht mal ein Hunter-Film vorlegen, weil die Leute da gar nicht hier tun werden aber... ...alls Zeichen deuten wäre oft denn ja?

00:18:58: Aber das hat TikTok auch schon gemacht als es für einen halben Tag in den USA verboten wurde.

00:19:02: Da gab's Pushnachrichten für alle Nutzerinnen, dass der große Präsident Trump, der dann noch nicht mehr Präsident war uns alle retten wird.

00:19:08: wir haben das gesehen mit ex in brasilien als es für eine zeit lang dort nicht nutzbar war.

00:19:13: also es gibt halt es gibt beispiele aber auf jeden fall ein bemerkenswerter folgen.

00:19:19: jetzt habe ich gerade schon x genannt und wir kommen mal zu x weil es ist so ne wilde geschichte dass sich sie mitgebracht hat obwohl sie total kis obwohl sie totalex ist und ob wohl grock bitte?

00:19:34: Und total nischig, also hundertprozentnischig.

00:19:36: Und zwar geht es um GROCK BILD.

00:19:38: GROck BILd ist sozusagen das Claude Code von GROC Also vom Unternehmen Space XSI wie es mittlerweile heißt.

00:19:46: und zwar haben wir eine Geschichte wo Haki's allen déjà vu kriegen weil sie sagen Das haben wir doch schon hundertmal erlebt.

00:19:55: aber hier ist es noch wilder.

00:19:56: und zwar ist es so dass es einen Sicherheitsforscher geschafft hat Anwendungen zu finden, die mit Grog Bild generiert wurden und dass alle von denen freizugänglich waren.

00:20:08: Warum ist das so?

00:20:09: Weil du wenn du mit Grock Bild eine Anwendung baust und diese dann auf dem Server von Grog liegt Dass sie mit einer random URL ausgestattet wird ungefähr so wie ein Google Document.

00:20:19: also auch da hast ja irgendwelche wilden Zahlen und Buchstaben hinten dran das unmögliches andere zu finden.

00:20:25: So soweit kein Problem.

00:20:27: Grog macht es aber so, dass sie das nicht hinter die Domain setzen sondern als Subdomain machen.

00:20:32: also es ist blblblblb.grok.com zum Beispiel und Dadurch dass es ein Subdomain ist, kannst du halt so wie jede andere Subdomaine über eine klassische DNS-Abfrage anschauen welches Subdomains eigentlich alle existieren.

00:20:46: Das heißt Du kannst mit einer PassivDNS Suche diese Grog.Me, so ist die Domain, Subdomaines alle einsehen also insgesamt dreiundvierzigtausend sechshunderteins.

00:20:57: Fünfundneunzig Prozent davon!

00:20:58: Also fünfdreißigtauend waren öffentlich einsehbar und zugänglich Und zwar in dem Moment wo man auf Teilen geklickt hat wurde er öffentlich.

00:21:07: Und wir wissen, dass es bei ChatGPT Chats der Fall war, dass sie teilweise sogar von Google indiziert wurden wenn man einmal auf Teilen geklickt hat.

00:21:13: Wir wissen das beim MetaAI.

00:21:15: Das Problem ist, dass wir nur einmal auf Teilen geklückt haben, dass die öffentlich zugänglich waren.

00:21:19: und aus all diesen Geschichten hat natürlich und da sind wir bei Folge eins Haken dran wo wir gesagt haben Elon Musk wird All die Fehler machen Die andere Leute alle schon vor ihm gemacht haben und was den wir alle gelernt haben hatte hier auch wieder diesen Fehler machen lassen offenbar, weil genau dasselbe passiert ihr auch und du kannst in diese Anwendungen einsehen.

00:21:36: Und die haben es aber in sich, weil die Anwendung, die davon betroffen sind das ist jetzt nicht irgendwas.

00:21:40: also da sind etliche Apps dabei, die von dem Team selber entwickelt wurden Also von SpaceXSi.

00:21:49: Da sind Apps dabei die von Tesla gebaut worden In denen zum Beispiel im Klartext aufgetaucht sind.

00:21:56: Da ist ein Unternehmen, das für die US-Marine arbeitet und da habe ich gleich einen ganz großen Gedanken zu dass hundert acht Personen im Klarnamen auflisten.

00:22:04: und dann wird es aber noch pikanter.

00:22:05: Ein Gesundheitsunternehmen mit einer App für ein Krankenhauspersonal, die über dreitausend Mitarbeiter namentlich und mit Personalnummer erfasst.

00:22:12: Einen IT-Dienstleister der ein vertrauliches Angebot für einen großen Einzelhandelskunden erstellt hat.

00:22:18: Eine norwegische lufthundraumfahrtkonzern einen Belegungsplan, einem für ein Verladeverfahren inklusive Plänen für ein Gebäude zur Lagerung von Sprengstoffen in einem amerikanischen Werk und so weiter.

00:22:33: Die Liste ist relativ lang und extrem problematisch!

00:22:37: Wie kann sowas passieren?

00:22:40: Erst mal sollten wir checken mit unseren Namen da vielleicht auch auf Tauchen.

00:22:43: wenn schon so viele Aufräumen... Ja, wie kann so was passieren?

00:22:49: Also Vibe-Coding.

00:22:51: Ich

00:22:51: wollte das ist die Antwort.

00:22:53: Richtige Antwort hundert Punkte.

00:22:54: Top-Warp

00:22:55: hat smooth down und ich lauere ein bisschen etwas rein in die Spracherkennung meines KI Modells als Nutzer und dann wird mir was ausgespuckt erscheint mehr als nur überhand zu nehmen was ja irgendwie erst mal... Der Gedanke von jeder kann irgendwie koten mit natürlicher Sprache, ist ja irgendwie erstmal sehr demokratisierend und natürlich nutzen das auch Leute die keine Coder sind.

00:23:16: Die keine Programmierer sind, die keine Software-Engineers sind uns.

00:23:19: sie wissen dann einfach nicht was sie absichern müssen.

00:23:23: es liegt ja nicht daran dass irgendwie die KI schlechten Code geschrieben hat oder sowas sondern wer baut hier Software?

00:23:29: Es baut plötzlich ein Vertriebsteam eine Personalabteilung eine Schiffsküche Und früher hätten all diese Teams oder Organisationen sich wahrscheinlich ein Programm gekauft und da hättest du ein strenges Log in gehabt.

00:23:42: Diese Software wäre hoffentlich lange getestet worden, uns hätte lange User-Cases gesammelt und wäre geupdatet worden verbessert worden.

00:23:50: Jetzt kannst Du sie irgendwie in fünfzehn Minuten selbst bauen und niemand aus der IT... den niemand aus der IT-Show drauf, weil du niemanden drauf schauen lässt.

00:23:57: Weil ja ich würde jetzt auch nicht wollen dass die ... unsere IT irgendwie damit belastet.

00:24:02: ist das irgendwie wie ich mir ausgedacht habe fünf Apps vibe zu koden für meine Arbeit und plötzlich tauchen irgendwelche Quellen von mir auf im Netz oder so.

00:24:12: Also das Werkzeug nimmt den Leuten irgendwie das Programmieren ab aber eben nicht diese Frage wer darf darauf zugreifen?

00:24:16: welcher Sicherheitsstandards braucht es?

00:24:18: Und ich hab das Gefühl die breite Masse vielleicht erst dann versteht, dass Software Engineering nicht einfach nur ist ein Code zu schreiben sondern tatsächlich auch Sicherheitsvorkehrungen zu können.

00:24:32: Und dann ist das aller Schlimmste daran aber, dass diese Dinge ja schon passiert sind.

00:24:37: also das heißt Narben stehen öffentlich irgendwo.

00:24:39: Das heißt die Verantwortung wie denn damit umgegangen wird liegt irgendwie dann auch nicht mehr bei den Vibecodern weil sie getan haben was Sie getan haben und das Ding ist draußen und es hat sich über verbreitet.

00:24:50: Aber den Schaden muss ich ja dann als Person ausbaden, wenn mein Name da irgendwie auftaucht und damit irgendwie Chantaten angestellt werden.

00:24:59: Wahrscheinlich haben der Leute nicht mehr irgendwie zustimmt, dass sie auftauchen in diesen Vibe-gecodeten Apps... Also ich würde das nicht wollen!

00:25:06: Wenn ich heute mit Kollegen oder Freunden arbeite, dann habe ich hier immer so ein bisschen diese Sorge, dass die meine Inhalte...

00:25:13: Oh du hast ein Paket?

00:25:16: Ich überbrücke das.

00:25:17: ich rede so lange weiter gehen wir an die Tür.

00:25:20: Der Vollständigkeit halber muss man vielleicht noch dazu sagen, dass es auch tatsächlich Fs betrifft die Space XSI selber gebaut hat also Dinge von denen sie sich eigentlich besser wissen müssen weil offenbar in diesem Unternehmen selber gevibecoded wird.

00:25:34: ganz offensichtlich Und was ich ganz interessant finde, diese Recherche kommt von Ask Technica.

00:25:40: Ask Technika hat diese Rechersche dann, wie man das eben so macht im Journalismus konfrontiert.

00:25:47: also sie haben eine Konfrontation geschrieben, eine E-Mail an das Unternehmen SpaceX SI An diesem Namen werde ich mich nie gewöhnen aber naja und haben dann gesagt hey wir brauchen jetzt hier mal eine Stellungnahme von euch.

00:25:59: könnt ihr das bitte einmal einordnen?

00:26:01: Was geht denn ab?

00:26:03: Ask Techniker!

00:26:04: hat diesen Artikel dann veröffentlicht ohne dass diese Konfrontation beantwortet wurde, weil sie bis heute nicht beantworten wurde.

00:26:11: Und in dem Moment wo dieser Artikel veröffentliche wurde waren aber die eigenen Apps von SpaceX SE, vierundzwanzig Stück nicht mehr öffentlich einsehbar.

00:26:20: Das heißt Sie haben diese E-Mail bekommen, haben nicht darauf geantwortet, haben sich überlegt.

00:26:24: so jetzt schalte ich mal hier unsere eigenen Apps ab und Tatsächlich mittlerweile fangen sie nach und nach damit an, jetzt auch die anderen Apps aus der Öffentlichkeit rauszunehmen.

00:26:35: Das heißt, Sie sind nicht mehr über diesen Link aufrufbar aber nach wie vor haben sie Arzt-Techniker eben nicht darauf geantwortet und haben erst mal damit angefangen ihre eigenen Apps offline zu nehmen.

00:26:45: So ich habe überbrückt... Hast du für deinen Nachbarn

00:26:53: ein Baguette?

00:26:58: Diese ganze Chose erinnert mich ganz doll an dieses Versprechen, das uns Technologieunternehmen seit ihrer Existenz geben.

00:27:06: Vertraut uns!

00:27:08: Wir machen das schon richtig.

00:27:09: ihr könnt hier eure Daten einspeisen.

00:27:11: es wird schon nichts passieren und jedes mal jedes verdammte Mal passiert was Und das, was passiert ist immer ein Datenleck.

00:27:19: Es ist immer eine Information sind irgendwo zugänglich geworden wo sie nicht hatten zugängliche werden können.

00:27:24: es ist es ist das gleiche muss es ist die gleiche Geschichte und ich glaube davon ausgehen dass dir auch für immer so weiter gehen wird.

00:27:31: es ist irgendwie ja ironisch.

00:27:34: das ist natürlich wieder irgendwie bei so einem Fall wie Elon Musk passiert weil er bekannt ist für solche Sachen aber es ist auch also für ihn am Ende des Tages ein bisschen egal oder?

00:27:45: Leider ist das die traurigste Zusammenfassung, die man da rausziehen kann.

00:27:49: Es ist eigentlich egal aber wenn wir in einer funktionierenden Welt wären Wäre es nicht egal und ich erklär dir warum, weil da eben ein Unternehmen betroffen ist das für die Marine arbeitet.

00:28:00: Jetzt wissen wir dass es den Pentagon so wahnsinnig wichtig war, dass Anthropic Claude nicht mehr für das Pentagon anbieten darf, weil sie sich nicht an einzelne Regeln halten wollten, die sie indiktieren wollten wie zum Beispiel... Wir würden aber schon gerne auf Menschen schießen.

00:28:14: kurz gesagt, wir haben das hier alles kleinterlich begleitet was dazu führte, dass es das Anthropic als Supply Chain Risk eingestuft wurde, also Lieferkettenrisiko.

00:28:25: Bedeutet kein Unternehmen das für das Pentagon arbeitet darf mit Anthropic zusammenarbeiten.

00:28:31: Jetzt haben wir hier de facto ein Sicherheitsrisiko mit SpaceX SI, einem Unternehmen das mit den Pentagon zusammenarbeitet.

00:28:39: Und wenn wir in einer vernünftigen und richtigen Demokratie leben würden oder sie in den USA dann müsste man spätestens jetzt sagen Wir können Grog nicht mehr nutzen was ein Problem wäre bei Donald Trump alle seine politischen Entscheidungen von Grog vordiktieren lässt wie wir wissen.

00:28:54: Überspitzt gesagt, ich versatiere nicht alle.

00:28:59: Und für wie realistisch halten wir das, dass es passieren wird?

00:29:02: Wird nicht passieren.

00:29:03: Es ist ausgeschlossen!

00:29:05: Es lohnt sich, Buddies mit dem Präsidenten der USA zu sein.

00:29:09: Man kann wahrscheinlich auch Supply Chain Risk sein und einem... ...wird nichts großartiges drohen.

00:29:19: Aber also man wird ja deswegen nicht als Supply-Chain-Risk eingestuft, sondern du wirst nur dann eingestufen wenn du eben nicht Buddy mit den Präsidenten bist.

00:29:26: So,

00:29:26: eben oder nicht schnelles Buddy bist

00:29:29: Oder genau, oder nicht doll genug Buddy.

00:29:31: Also Mark Zuckerberg hat es geschafft dass sie AI als Superintelligence heißt.

00:29:35: das musste erst mal schaffen.

00:29:37: da kann Dario Amudényn nicht mithalten aber sieht aber in zwei Wochen ganz anders aus wenn der Börsengang passiert ist und dann kommt sich

00:29:45: alles super volatil bei denen simple Prinzipien an die man benutzen kann zur Orientierung in der Tech-Welt.

00:29:52: Das ist einmal, vertraut uns es wird nichts passieren immer eine Lüge!

00:29:55: Es wird immer was passieren.

00:29:59: und das zweite Prinzip ist.

00:30:00: wenn mein Unternehmen mächtig genug ist dass es der US-amerikanischen Regierung helfen kann dann bin ich irgendwie Buddies mit dem Präsidenten ... und dann komme ich auch vorhin mit dem Unternehmen.

00:30:10: Stimmt, stimmt leider!

00:30:11: Ich wünschte... Das

00:30:12: stimmt komplett.

00:30:12: Ich würde

00:30:13: das Problem nicht sagen aber es ist die Wahrheit aller Beobachtungen.

00:30:19: Stimm warum hat Trump bei Jensen Huang ein Jahr lang nicht reagiert?

00:30:25: Vielleicht weil er ja.

00:30:27: es gibt da verschiedene Theorien aber es könnte auch ein bisschen was mit der Vorgeschichte von Donald Trump zu tun haben.

00:30:31: Eben genau.

00:30:33: Übrigens der Vollständigkeit habe möchte ich dazu noch vermelden, dass ab der Apple iOS Version oder iPad OS Version oder MacOS Version oder Vision OS nutzt eh keiner.

00:30:51: was man wissen muss passiert.

00:30:53: Und wenn du dort Inhalte über die iCloud teilst, ob es ein Foto ist oder iCloud Drive oder was auch immer dann werden diese Daten nicht mehr vollständig verschlüsselt sondern werden von Apple auch überprüft.

00:31:03: also das wird nachgeschaut was das eigentlich so ganz genau ist.

00:31:06: Sie sagen sie überprüfen ob es schädliche Inhalten sind.

00:31:09: Das kann aber erst mal alles sein.

00:31:10: Schädlicher Inhalt kann CSIM sein, also Material der sexuelle Gewalt an Kindern zeigt.

00:31:15: Schädlicher Inhalte kann ein Virus sein, schädliche Inhalt auch ein Kinofilm sein, der gegen Urheberrechte verstößt.

00:31:21: Das sagen sie nicht und es gilt explizit auch dann wenn der Eigentümer oder der Teilnehmer erweiterten Datenschutz gezielt aktiviert haben.

00:31:30: Also alles was du sozusagen öffentlich zur Verfügung stellst klingt so ein bisschen so Take als würde Apple sich darauf vorbereiten dass die Section to Thirty fällt.

00:31:39: Ja.

00:31:41: Ich hatte vor einigen Wochen für einen anderes Projekt mit dem obersten Anwalt von Edward Snowden gesprochen, Ben Wissner und wir haben über das Konzept der Massenüberwachung gesprochen und ich habe dann natürlich immer so sehr Devils Advocate gespielt um ihm auch irgendwie seine Antworten zu entlocken.

00:31:59: aber ich glaube dass es immer diese ganz große Frage ist wird immer gesagt es ist um schädliche Inhalte zu verhindern oder um sie zu tracking und um sie?

00:32:08: Ja, wir sehen ja in einem Fall von TikTok.

00:32:09: Also klar, TikTok ist nicht Apple aber auch da konnten schädliche Inhalte... Konnten sich verbreiten oder wurden verbreitet um es sozusagen?

00:32:18: Gleichzeitig ist die Frage muss man für das Verhindern von schädlichen Inhalten alles und jeden überwachen?

00:32:24: Und dass viele Sicherheitsforscher sagen nein und das ist auch da wo viele Juristen und Juristinnen sagen Nein, Massenbewachung führt nicht dazu, dass gesellschaftliche Schäden ... Straftaten fennert werden.

00:32:37: Das ist nicht, so funktioniert es nicht.

00:32:39: aber wenn man... ...wenn man vielleicht sehr spezifisch targetiert dann könnte man dazu kommen und müsste nicht... ...jedermanns Freiheit beschneiden und jeder mit jedem Menschen überwachen und

00:32:48: auslesen.".

00:32:49: Halleluja ich möchte das bitte auf eine Quortkart schreiben?

00:32:53: Ja!

00:32:54: Als wir sind waren Edward Snowden für die ganze westliche Gesellschaft.

00:32:59: da wurde mir das klar.

00:33:02: Aber das ist tatsächlich genau der Punkt also Die Abwägung, wir machen wirklich heute die ganz großen gesellschaftlichen Verhandlungen drauf.

00:33:09: Ich merke das schon.

00:33:10: du kommst hier an und sagst heute räumen wir auf Willkommen im Hockeyverse!

00:33:16: Ich finde dass die grundsätzliche Diskussion über wie weit wollen wir uns eigentlich in unserer Freiheit einschränken lassen um... Das Problem ist Freiheit ist ein abgegriffener Abgegriffener Begriff irgendwie, der hat sich so ein bisschen abgenutzt über letzten Jahre.

00:33:30: Aber wie weit wollen wir uns in unserer Freiheit einschränken lassen um eine garantierte Sicherheit zu bekommen?

00:33:34: Oder und das ist ja die Wahrheit... Die Simulation einer garantierten Sicherheit.

00:33:38: Also weil also dass im Parkhaus eine Kamera hängt verhindert nicht, dass er jemanden Autoradio klaut.

00:33:44: Wie also neunziger Jahrreferenz.

00:33:46: aber das in der U-Bahn eine Kamera Hänge verhindern nicht, Dass irgendwelche Telefone geklaut werden und was auch und so weiter usw.. Genau das ist das Risiko.

00:33:55: und da wie gesagt die einzige Theorie, die ich habe dass Apple sich darauf vorbereiten könnte.

00:34:00: Dass aber das plattformprivileg kippen könnte und apple damit für alles verantwortlich gemacht werden kann was öffentlich über ihr server abrufbar wäre in diesem fall Und sich darauf vorbereiten möchte dass sie sagt dann schauen wir uns das lieber vorher einmal an.

00:34:14: Wer so ein wer so'n take?

00:34:17: Ja das wäre ja auch.

00:34:20: Das können sie natürlich in heutiger Zeit einfacher, wenn man alles schnell durch KI bewachen lassen kann und einmal durchlaufen lassen kann.

00:34:25: Also für sowas eignet sich ja auch KI eigentlich.

00:34:28: Die ist ja dazu da um aus riesigen Datenmengen Muster zu finden, Inhalte zu finden Dinge für die wir Menschen viel zu lange brauchen, die wir gar nicht irgendwie bewerkstelligen können en masse Und auf jeden Fall ist es das was du gerade beschrieben hast irgendwie Fragen muss ob es hier irgendwie darum geht als Herausgeber oder als Plattform eben nicht vor Gericht gezogen werden zu können und irgendwie juristisch belangwerden zu können.

00:34:53: Und das hast du gerade nochmal, ich glaube da will ich noch mal drauf eingehen was du beschrieben hast.

00:34:56: es ist immer so ausgelöscht dieser Begriff der Freiheit und gerade so der digitalen Freiheit.

00:35:00: wir haben ja Auch hier in Deutschland viele Leute, die mal in einem Staat gelebt haben und das noch wissen.

00:35:08: Und auch wir alle haben das in Geschichte gelernt hoffentlich in der Schule.

00:35:11: was es bedeutet wenn Staaten ihre eigenen Bürger überwachen?

00:35:14: Wie willkürlich das passieren kann und wie willkühlig auch entschieden werden kann?

00:35:18: Was ist ein problematischer Inhalt?

00:35:22: Dazu gehört zu dieser Wahrheit auch dass wir als Bürgerinnen und Bürger vertrauen müssen, wenn wir überwacht werden, dass gegen uns Individuell, dass nicht irgendwie willkürlich benutzt wird oder ausgeschlachtet wird.

00:35:32: Oder irgendwie ausgenutzt wird.

00:35:34: Aber das ist immer dieser Konflikt mit dem wir auch stehen als Personen in einem Staat leben... Wie sehr kann ich vertrauen?

00:35:44: Ich muss immer vertrauen!

00:35:46: Kontrolle, weil natürlich ich als einfache Person keine Gewalt ausüben kann gegen Gewalt die mir vielleicht von oben angetan wird.

00:35:53: Gegen zum Beispiel Erwachungsgewalt.

00:35:54: was soll ich da tun?

00:35:55: Ich könnte mir überlegen ob ich zu einem anderen Tech-Anbieter wechsle und mein Handy nicht mehr von Apple habe und meinen MacBook nicht mehr benutze.

00:36:02: aber vielleicht hab' ich mich und zum Beispiel ich habe das ich habe mich abhängig gemacht von Apple das Apple-Ecosystem.

00:36:07: Ich mag das Apple Ecosystem, weil es unheimlich gut funktioniert aber dass ist eben auch Teil dieser Abhängigkeit.

00:36:12: und wenn dann Apple sagt so jetzt werden wir alle Inhalte durchsuchen können, weil wir nicht belangt werden wollen für das was ihr macht Dann muss ich irgendwie entweder damit leben oder ich hole mir Technologie die vielleicht mein technologisches Erlebnis einschneidet.

00:36:28: Und das ist immer eine krass Abwägung finde

00:36:32: Hundertprozent fairerweise, wie gesagt das sind nur Inhalte die man teilt erstmal.

00:36:36: Aber das kann sich natürlich trotzdem immer ändern Und da sind es ein paar Gedanken drin, die ich habe.

00:36:41: Also zum einen wir kennen das spätestens seit Gmail also die sleekeste angenehmste beste Art mit Emails umzugehen aber eben zu dem Preis deine E-Mails ausgewertet werden um dir Werbung anzuzeigen oder möglicherweise bald damit auch KI zu trainieren oder oder oder also um ein Profil aus dir zu machen und deine e-Mail sagen wahrscheinlich alles über dich aus und zwar so viel dass Amazon angefangen hat in Bestellbestätigung nicht mehr das Produkt anzuzeigen, damit die KI nicht gefüttert werden kann.

00:37:08: Die andere Player wie Google zum Beispiel nutzen.

00:37:10: also wir sehen schon wie groß dieses Dilemma eigentlich für uns selber in der Abwägung ist.

00:37:15: ich habe aber und bin mir nicht ganz sicher ob du da mitgehst ja vielleicht schon persönlich noch mehr Sorge vor solchen Vorbau.

00:37:24: Leistungen die wir jetzt gerade uns gesellschaftlich in unser System dübeln ... die möglicherweise staatliche Übergriffe ermöglichen, als wenn das Unternehmen tun.

00:37:34: Weil bei Unternehmen kann ich mich dagegen entscheiden sie zu nutzen auch wenn der Preis vielleicht ein hoher ist eine schlechtere E-Mail Erfahrung oder... Ich kann meine nicht sehen was meine Freundinnen bei Instagram posten oder oder.

00:37:43: oder.

00:37:44: aber wenn wir jetzt beim Thema... Jetzt bringe ich es auch auf.

00:37:47: letztendlich mal geschrieben.

00:37:48: man erkennt immer daran wenn neue Hackmann-Gästinnen da sind weil das Social Media Verbot zum Thema gemacht wird und man dann nochmal kurz diskutiert wie man dazu steht gehört vielleicht zur Taufe dazu.

00:37:59: Das große Dilemma daran ist, wenn wir uns jetzt eine Personalausweis-Verifikation für die komplette Internetnutzung... ins System dübeln, um diesen Begriff nochmal zu bemühen.

00:38:10: Dann werden wir... sollte sich früher oder später der Wind drehen und wir haben eine vielleicht andere Regierung die vielleicht ein bisschen weniger Wert auf Freiheit legt oder die vielleicht sogar Repressionen vorsieht für Andersdenken hat dann ne sehr gute Handhabe weil sie ganz genau weiß welcher Mensch an welchem Punkt im Internet unterwegs ist weil es dafür schon die Wege gibt die man nur noch gehen

00:38:33: muss.

00:38:34: Ja, we are on the same page an dieser Stelle.

00:38:36: Also ich seh das auch wie du.

00:38:37: Ich glaube auch der... ...das Risiko des staatlichen Eingriffs und es ist ja nicht nur ein Risiko, ne?

00:38:43: Der passiert!

00:38:44: Und dafür braucht man auch keine Regierung und wir sprechen natürlich irgendwie beide von der AfD gerade wenn du das sagst aber man braucht dafür noch keine AfD-Regierung.

00:38:50: Wir haben hier eine Erweiterung der Polizeigesetze.

00:38:53: Wir haben Recherchen von, ich meine BR und Netzpolitik.

00:38:57: war das, maybe I'm wrong here die zeigen dass auch Ja, wie sagt man?

00:39:04: Sicherheitsbehörden kommerziell available data kaufen auch nicht legal war um Menschen zu tracken um zu wissen wer wo ist was die was sie da sammeln und wir haben das Meine kollegin erst mit önern.

00:39:16: ich habe das für ein anderes projekt groß recherchiert.

00:39:18: Was demnächst irgendwie rauskommt wenn man sieht was es für kataloge sind die aus unseren datensammlungen entstanden sind Es ist wahnsinnig.

00:39:25: Ich konnte mir das davor nicht vorstellen was es bedeutet dass von mir einen profil bei Tech-Anbietern und durch das Internet existiert, wenn man versteht wie allumfassend dieses Profil ist.

00:39:36: Wenn man dann versteht dass selbst mittlerweile nicht mehr geheime aber damals geheime Berichte der USA sagen auch wir kaufen als Staat, als Geheimdienste diese Daten ein um Menschen damit zu tracken, wenn man sieht in welche Kataloge man kategorisiert wird.

00:39:52: Also sei es von dieser Person dieses Profilpass zum deutscher Beamter oder dieses Profi pass zur Ende zwanzigjährige Frau die sich für die und die Art von Literatur interessiert oder die so und so ihre Abende verbringt Und das alles zentralisiert plus staatliche Informationen obendrauf.

00:40:08: Das ist ja das, was du sagst.

00:40:09: Also wenn all das zentralisiert sein könnte und man hat staatliche Information umdrauf sei es zum Beispiel mein Personalausweis weil ich mich verifizieren muss im Internet, weil es einen Social Media-Verbot gibt für eine bestimmte Altersgrenze

00:40:19: d.h.,

00:40:20: es muss irgendwie meinen Alter rausgelesen werden und sollte bestimmt werden.

00:40:23: Fällt sie da rein?

00:40:24: Gehört sie da reingehen?

00:40:25: Ist die irgendwie über oder unter der Altersgrenze?

00:40:28: Wenn alle diese Daten zusammengenommen werden können... dann werden sich Sicherheitsbehörden dem auch bedienen.

00:40:36: Und dafür braucht es keine AfD-Regierung.

00:40:41: und das, obwohl es diese AfD-Regierungen nicht gibt, sind alle Schritte, die keinem demokratischen Ideal entsprechen zumindest nicht dem demokratischen ideal was ich an der Demokratie zugrunde lege.

00:40:53: Es muss dafür nicht irgendwie jemand kommen, der unsere Demokratie ablehnt.

00:40:56: Das kann jemand sein und es können Parteien sagen ich bin für frei und offene Wahl aber ich will trotzdem Daten die über dich verfügbar gemacht wurden irgendwo.

00:41:04: ich will sie trotzdem kaufen und ich will die benutzen und die sollen meine Sicherheitsbehörden benutzen damit sich so Menschen verfolgen können.

00:41:11: Also und überhaupt die Verquickung von staatlichen und privaten Interessen halte ich immer für extrem gefährlich, weil sie kaufen dann die Daten von Data Broker oder irgendwelchen Sammlungen ein.

00:41:21: Nutzen Sie dann aber wiederum mit der Software vom Palantir, die dann wiederum angewendet wird um auszuwerten wer wir eigentlich sind.

00:41:27: Und wir wissen aus der Forschung das drei Datenpunkte reichen um achtzig Prozent der Bevölkerung klar zu identifizieren also Postleitzahl Geburtsdatum whatever, würde schon reichen damit ich genau weiß wer du bist.

00:41:41: Wir wissen dass es Teams gab die aus absurdonymisierten Reddit Nicknames auch aus der Art und Weise was sie geschrieben haben Lieblingsfilm und was auch immer Rückschlüsse darauf ziehen konnten wer dahinter gesteckt hat wer sich da jetzt irgendwie zu irgendwelchen No Kings Protesten verabredet hat.

00:41:57: also das wir sind eigentlich schon längst in dieser Big Data Realität angekommen sowohl auf staatlicher als auch auf privater Seite.

00:42:04: Und dann hörste aber den Friedrich Merz, der sich hinstellt oder Daniel Günther.

00:42:08: Oder wen auch immer beide Union die sagen wir brauchen eine Klarnahmpflicht im Internet.

00:42:13: also weißt du?

00:42:13: Wir sind längst an diesem Punkt wo du nicht nur die Verquickung von privaten und staatlichen Interessen aufeinander knallen sondern gleichzeitig auch noch Unwissenheit oder Inkompetenz auf ein auf eine gierige Mäute treffen Die sagen ja gibt uns mehr Daten und das ist Das ist ein riesen Dilemma

00:42:34: Und deswegen ist es ja so wichtig und also deswegen mache ich das, und du wahrscheinlich auch.

00:42:38: Das was wir machen, machen wir damit Menschen verstehen wie diese Technologien dahinter funktionieren.

00:42:42: Ich habe das in meinen Recherchen in den letzten Monaten gemerkt dass immer sehr einfach ist wenn man Begriffe wie Palantir reinschmeißt weil dann die Leute irgendwie schon die Assoziation haben oh something evil is going on with this company.

00:42:55: Schadey das sollte nicht sein aber Fakt ist nicht, oder ist es nicht von Interesse ob der Gründer von Palantir oder irgendwelche Investoren Rechtsrechtslibertäre faschistoidische Tendenzen haben.

00:43:07: Es geht um die Technologie dahinter und so wie sie funktioniert und dass jede Form dieser Technologie egal unter welchem Namen dazu dient um Daten zu zentralisieren Und Sie mit natürlicher Sprache durch KI auszulesen Aus dem sehr einfach willkürliche Strategien gezogen werden können.

00:43:24: und da muss man sich fragen in dieser Welt wir sind So wie du sagst, wir sind da schon längs angekommen.

00:43:29: Das hat nichts mit der Zukunft zu tun.

00:43:30: Es ist die Gegenwart, es ist das was passiert.

00:43:33: Jeder von uns irgendwie erleben kann und auch Menschen erleben.

00:43:37: Und wahrscheinlich sogar noch viel Arger und intensiver als es in einer Zeit vor Technologie möglich wäre.

00:43:45: weil dann musst du auf wenigstens Spione raus schicken und Menschen abhören lassen und verfolgen lassen.

00:43:49: heute musst du das nicht mehr.

00:43:50: ich habe ja irgendwie meinen Spion die ganze zeit mit mir dabei wenn ich mein Handy mit mir umschleppe.

00:43:55: Genau deswegen halte ich das so für wichtig, sich ganz deep und nerdy damit zu beschäftigen wie eigentlich diese Mechanismen funktionieren.

00:44:03: Und in welchen Interesse es eigentlich ist wenn ein Dany Günther oder ein Frischmerz sich hinstellen und sagen wir wollen einen Klarnamenpflicht Die wird dann seriert.

00:44:10: Es geht um Sicherheit Aber Leute Also es geht nicht Um unser aller Sicherheit.

00:44:16: Um ganz kurz über die faschistuiden Tendenzen zu sprechen, bei denen man ja immer so ein bisschen das Gefühl hat dass sie möglicherweise auch aus Opportunismus heraus motiviert sind.

00:44:25: Wir haben darüber gesprochen, dass Meta jetzt schon Teams aufgebaut hat um auch eine gute Stimmung bei den Demokraten herzustellen.

00:44:31: wir warten eigentlich nur darauf bis Zuckerberg irgendwie kippt.

00:44:33: Jetzt gibt es die Meldung und da waren wir gerade bei Palantir Dass Alex Karp von sich schon gesagt hat er ist ja eigentlich eh Demokrat Er ist sozusagen schon drei Schritte weiter und er geht davon aus Da gibts den Machtwechsel also will er mit dabei sein sagt.

00:44:47: Also Palantissi sagt, nee, Peter Thiel, ja möglicherweise vielleicht ist er ein Dämon aber ich bin Demokrat.

00:44:54: das finde ich schon sehr bemerkenswert weil das was eher so in der Vergangenheit geäußert hat also der glaubt glaube nicht an frei Wahlen und solche Dinge das klang jetzt nicht so auf einer Linie mit der Agenda der demokratischen Partei in den USA.

00:45:07: Nein das auf keinen Fall!

00:45:08: Ich denke es zeigt aber gleichzeitig noch dass zumindest Politiker und Politiker noch etwas Macht haben, um diese Tech-Unternehmen irgendwie einzuhägen.

00:45:16: Sonst würden die sich ja nicht so verbiegen, sonst würden sie ein bisschen einen Fähnchen im Wind sein.

00:45:20: Diese Macht sollte man nutzen.

00:45:23: Wen wir wählen als Repräsentanten sind demokratisch legitimiert soweit es geht oder soweiteben die Demokratie gefasst ist.

00:45:31: Und die könnten ihre politische Legitimitte macht nutzen, um diesen Unternehmen irgendwie einzohägen...

00:45:38: Früher hat man immer gesagt, so.

00:45:39: in gewissen Kreisen hat man gesagt, dein Kassenbond ist ein Wahlzettel.

00:45:44: Und jetzt sind es aber eigentlich sogar so dass man sagen muss, aber dein Wahlzittel ist auch ein Kassenbonk.

00:45:48: Also du hast schon eine Quittung mit drin und auch die Auftragsbestätigung überlegt dir genau bei wem du bestellen möchtest?

00:45:57: Ja ich meine das haben wir auch bei den Midterms gesehen als irgendwie Datacenter oder die Begrenzung und Regulierung von Datacentern zur Wahl standen.

00:46:04: Leute wollen darüber abstimmen, wie Tech ihr Leben verändert und wie Tech in ihr Leben eingreift.

00:46:09: Und das finde ich zumindest als Journalistin – das find' ich gut!

00:46:12: Ich würde sagen da haben wir Journalisten doch schon mal einen Okayenjob gemacht, dass Leute merken oh I should have a say-and-this.

00:46:23: Wir hatten gerade doch über die Realität gespannt, wollte ich nur ein Gedanken zu äußern.

00:46:27: Weil du gleichzeitig ja auch schon so Horrorgeschichten weißt wie zum Beispiel das in Großbritannien Polizeiautos mit versus APNR ausgestattet sind also der Möglichkeit oder ANPR irgendwie so, die Kennzeichen von vorbeifachenden Autos sofort zu identifizieren und zuordnen zu können wie dahinter steckt.

00:46:46: Wenn du das jetzt mit so einer großen Datei natürlich zusammenbringst dann hast du genau dieses Hochhaus-Szenario wenn der Polizist hinter dir direkt weiß ob du gerade Kleiner Schulden hast oder ein Haftbefehl oder vielleicht eine ansteckende Krankheit also ob man wirklich so viele Daten zusammenwerfen möchte oder ob ein paar Silos dazwischen nicht vielleicht doch manchmal ganz gute Idee sind.

00:47:04: auf der Ebene kann man sich auch nochmal überlegen.

00:47:07: Jetzt habe ich Hat's noch einen Gedanken?

00:47:09: Ja, mir kam gerade der Gedanke.

00:47:10: Weißt du wenn ich jetzt die FDP wäre dann würde ich mich ganz dringend darauf stürzen und sagen stopp mal wollen wir das der Staat so viel über die Bürger weiß.

00:47:18: Dann würde ich mit diesem Liberalismus der immer einher geht mit einem dass Individuum sollte nicht überwacht werden vom Staat.

00:47:23: Der Staat sollte das Individium in Ruhe lassen können.

00:47:26: ja da würde ich aufstürzen.

00:47:27: Das ist jetzt halb kurz.

00:47:29: der FDP mit einem Gedanken vielleicht...

00:47:33: Ich fürchte diese sind relativ beratungsresistent im Moment.

00:47:40: Jetzt bleiben wir über kurz in Großbritannien und ich bringe das Social-Media-Verbot noch mal mit rein, weil da gibt es gerade eine Diskussion.

00:47:47: Ich habe mehrere Quellen lesen müssen um das wirklich zu glauben aber die BBC berichtet das.

00:47:52: sie sagt dass die Regierung erwegt in die Liste der Plattformen für Social Media Verbot die unter sechzehn Jahren gesperrt werden sollen auch Vintet und eBay mit aufgenommen werden sollen um Kinder zu schützen ist die Formulierung.

00:48:05: Ebay hat darauf schon reagiert und hat gesagt, man wolle mehr erfahren.

00:48:08: Und sei weiterhin konstruktiv bereit mit der Regierung weiterzuarbeiten.

00:48:12: Wintet begrüßt er einen offenen Dialog mit den zuständigen Ministern unter Regulierungsbehörde!

00:48:17: Was sollen sie auch sonst sagen?

00:48:19: Ich finde, dass langsam diese Diskussion darüber was jetzt in das Social-Media-Verbot mit Rheinfeld überhand nimmt und vielleicht aber auch schon bevor das erste Social Media-Verbots richtigen Krafttritt außer Australien sich eigentlich schon entlarvt.

00:48:32: Was tatsächlich die Idee hinter diesem Internetverbot da am Ende war?

00:48:38: Ja genau das ist es.

00:48:38: also ich würde an der Stelle irgendwie der britischen Regierung empfehlen vielleicht auch weiß nicht quistuell sperren zu lassen.

00:48:45: für Leute Die Schätfen sind beim Kystuell ist toxisch.

00:48:50: Ist sie auch?

00:48:53: Was gibt's noch?

00:48:54: Welche Spiele gibt es noch, spiele ich nicht.

00:48:57: Alles!

00:48:57: Sollen Sie doch das ganze Internet sperren?

00:49:03: Also wenn du mir das geschickt hattest, dass du gerne darüber reden willst... Dachte ich auch, da ist ja irgendwie ein Schrapffehler.

00:49:08: oder hast du irgendwas durch Ränder gekommen oder habe ich irgendwas nicht verstanden.

00:49:11: Ich finde das wahnsinnig.

00:49:12: Das heißt offensichtlich gilt das Social-Media-Verbot nicht für Social Media oder soll er nicht auf Social Media angewandt werden, sondern auf alles was irgendeiner Form von Chat Funktion hat.

00:49:21: Heißt aber auch, dass wir Jugendlichen zurückspiegeln, es ist so hey du bist eine fünfzehnjährige die irgendwie ihre Jeans verkaufen will auf eBay oder Vintage.

00:49:31: Du bist ein Schutzfall!

00:49:32: Wir müssen dich bei jeder Plattform auf jeder plattform müssen euch alle neu prüfen.

00:49:37: Wir müssen verifizieren wer ihr seid wie alt ihr seid um eure Ach so, nee zuverlich landen.

00:49:42: Haben wir dann an diesen ganzen Datenschatz von euch hoch?

00:49:45: Ja das ist einfach passiert!

00:49:48: Also man könnte auch versuchen demokratischere Wege zu finden zum Beispiel eine Chatfunktion einzuschränken.

00:49:55: Man könnte auch... also ich will nur... So

00:49:57: wird es bei Roblox gemacht in Großbritannien.

00:50:00: Da wird gesagt die Kinder können RobloX nutzen aber unter sechzehn nicht chatten.

00:50:05: Grooming ist auch ein reales Problem.

00:50:07: Es ist es ist ein heftiges Problem und ich kann auch berichten, Ich bin heute achtundzwanzig aber auch ich habe das irgendwie als Jugendliche erlebt im Internet ja Und wir haben am Anfang über Spanien geredet und den Fall in Spanian.

00:50:19: also Wir sehen ja wie riesig dieses problem ist.

00:50:23: Aber dass was was am dringendsten isst Ist das große plattform ihre regel nicht umsetzen?

00:50:29: Und da kann man großplattform zwingen Regeln umzusetzen.

00:50:33: Man kann das machen, man muss nicht für alle das Internet verbieten oder seine ganzen Bürgerinnen und Bürgern Massen überwachen oder dem Risiko der Massenbewachung aussetzen.

00:50:43: Also ich finde es verrückt ja...

00:50:46: Ich

00:50:48: werde jetzt nicht mehr nach Großbritannien ziehen.

00:50:50: Nein also halt

00:50:53: einfach!

00:50:53: Was ich so interessant finde ist aber dass Ivel selber sagt wenn du musst um ein Angebot einzustellen oder einen Vertrag abzuschließen ... musst du achtzehn sein.

00:51:02: Das heißt, de facto ist schon jetzt so... ... dass du eigentlich bei eBay gar nix machen kannst als Mensch unter sechzehn.

00:51:08: Und das ebay-Jahre-Plattform ist die Livestreams anbietet,... ...die könnte man auch einfach abschalten.

00:51:12: Ebay Live übrigens absolut premium!

00:51:15: Das ist die perfekte Mischung aus QVC und TikTok aber live.

00:51:21: Das ist ja verrückt

00:51:22: Es ist brillant.

00:51:25: Da sollten wir mal was bringen.

00:51:27: Bei Vintage geht's um die Direktnachrichten Was auch interessant ist, weil das ist halt eine Shoppingplattform.

00:51:32: Und klar ich glaube auch dass es da problematische Nutzung gibt definitiv.

00:51:38: aber ich glaube wir dürfen das jetzt nicht... Also wenn du diese Tür aufmachst und sagst alle Tools mit direktnachrichten Funktionen fallen unter das Social Media Verbot Aber YouTube Kids bleibt erlaubt!

00:51:49: Eine algorithmische Auswahl von Inhalten bei denen einfach die Uploader entscheiden ob sie für Kinder geeignet sind oder nicht Dann habe ich das Gefühl haben wir das Maß gänzlich verloren.

00:52:00: Na ja und man muss sich auch fragen, wenn es hier wirklich um den Schutz von Kindern und Jugendlichen geht.

00:52:03: Und dann geht das meistens um Ruhmengen- und sexualisierte Gewalt?

00:52:06: Dann muss man sexualisierte... Also sexualisierte Gewalt verschwindet nicht aus der Gesellschaft leider Gottes wenn soziale Medien verboten werden für Kinder und Jugendliche.

00:52:16: Und wir sehen ja auch in Australien, wie wenig diese Verbote wirken können weil natürlich Kinder und Jüngliche das tun was sie tun sollen nämlich die Verbote umgehen.

00:52:24: ich finde ein Kind oder einen Jugendlicher sollte das machen.

00:52:26: die sollten Verboten gehen.

00:52:27: das ist deren Job.

00:52:28: Sie sind Kinder und Jugendliche und eben dafür da Dinge zu tun also sich nicht an die Regeln zu halten.

00:52:33: aber wem es wirklich darum geht junge Menschen vor Grooming zu schützen Junge Frauen und Mädchen vor Grooming zu schützen der würde andere Methoden wählen und da würde auch dafür sorgen, dass ein Rechtssystem sich verändert.

00:52:45: Da würde auch dazu sorgen, das eine Gesellschaft sich verändert, dass Männer in dieser Gesellschaft verändern, dass strukturell Männer im Patriarchat sich anders verhalten, dass Patriarchate vielleicht abgestattet wird.

00:52:55: There are so many things to do die Feministinnen lange vor meiner Ansprache hier in diesem Podcast dargelegt haben und diskutieren, die diskutiert werden.

00:53:05: Ich glaube, da wird niemand... Also es würde nicht substanziell einen Unterschied machen ob jemand bei Ebay-Klenner zeigen unter vierzehn ist und chatten kann.

00:53:12: So?

00:53:12: Ja.

00:53:14: Word!

00:53:15: Ich habe noch eine Zahl des Tages mitgebracht oder das ist keine Rubrik aber ich hab' ne Zahl.

00:53:19: Weißt du wie viele Menschen im kompletten letzten Quartal über ihren KI-Agenten ein Auto bestellt haben?

00:53:31: Schätz mal.

00:53:32: Also ich habe mir jetzt von Metas, KI-Agenten, MuseMod bekommen.

00:53:39: Und ich weiß es genug Leute in meinem Umfeld den gruselig genug finden ihn nicht auszuprobieren.

00:53:42: Ich hab einen sehr tech friendly Umfeld.

00:53:44: Ich bin eigentlich auch sehr tech friendlier und ist jetzt vielleicht...

00:53:46: Ja?

00:53:47: Jetzt sind wir alle sonst wären wir nicht hier!

00:53:49: Was man liebt das will man verbessern.

00:53:50: Eben genau, genau.

00:53:53: Ich war weltweit in Deutschland.

00:53:57: Weltweit im dritten Quartal.

00:53:59: Dann sage ich mal Konservativ geschätzte drei Millionen.

00:54:04: Nein!

00:54:06: Vier Fahrten, nicht Millionen.

00:54:12: Die Leute wissen nicht wie sie ihre KI einsetzen sollen.

00:54:16: Sie verstehen es einfach nicht.

00:54:17: Lass dich doch von der KI nach Hause fahren, seid ihr doof?

00:54:21: Aber immerhin fünfhundert Bebuchungen über Uber Eats allein in der Halloweenwoche.

00:54:26: Also die Leute bestellen eher Essen als sich ein Auto.

00:54:30: Okay, Leute wollen ihr Auto noch selbst bestellen.

00:54:33: Ist es das?

00:54:37: Ich glaube ja!

00:54:39: Und dann habe ich noch ein bisschen EU-Recht weil wir vorhin mit EU Recht angefangen haben.

00:54:42: jetzt werden wir auch mit EU recht auf.

00:54:44: und zwar soll es den Digital Fairness Act geben.

00:54:46: über den haben wir schon mal gesprochen hier im Podcast.

00:54:48: der kommt so in diese große Riege vom Digital Services Act und dem Digital Markets Act und AI Act am Ende.

00:54:56: Und der Digital Fairness Act, der soll Verbraucherschutz im Netz sicherstellen und dafür sollen so Dinge wie Dark Pattern adressiert werden aber auch online fallen.

00:55:07: Und dazu gehören so Sachen wie zum Beispiel dass es eine vorher nachher Preisempfehlung ist überhaupt gar kein Social Media Thema.

00:55:12: Aber hey wenn eBay Social Media ist dann ist das ja wohl auch ein Social Media-Thema?

00:55:16: Dann ist das jetzt auch... eBay gehört jetzt in den Haken dran Korridoren.

00:55:21: Ja ganz genau!

00:55:22: Kanon.

00:55:23: Also wenn du vorher nachher Preise angibst, musst du den vorherigen Preis angeben und darfst nicht mehr die unverbindliche Preisempfehlung angeben.

00:55:29: das sogenannte Drip Pricing darfste auch nicht mehr machen.

00:55:32: also erst im Anschluss Gebühren auf dem preis aufschlagen wenn du im bezahlvorgang bist.

00:55:37: Also bis zu zehn dinger sind schon bekannt die irgendwie beseitigt werden sollen.

00:55:42: also kostenpflichtige lootboxen und pay to win sollen ein thema werden sollen für minderjährige verboten werden Chatfunktion weg, Lootboxen weg.

00:55:50: also Fortnite macht wirklich keinen Spaß mehr.

00:55:54: Und so weiter und so weiter.

00:55:55: ich glaube dass das tatsächlich ganz kluge Entscheidungen sind auch wenn man natürlich ein bisschen darauf achten muss wie gut die dann am Ende gegamed werden von der Industrie.

00:56:06: Ja ich glaube erstmal jeder Fortschritt ist gut was Verbraucherschutz angeht im digitalen Raum.

00:56:17: Ich würde trotzdem sagen, dass es auch wieder einer der wenigen Tropfen sind auf dem heißen Stein.

00:56:26: Wir haben ja auch eine Einschränkung die kommen soll das man aus dem Doomscrolling rauskommen kann also aus dem Autoplay das man selbst sozusagen angeben kann.

00:56:35: Also wenn ich keinen Bock mehr habe ins Doomscrolling zu fallen dann soll ich irgendeiner Funktion einschalten können in den Einstellungen die sagt ich möchte nicht mehr Doomscrollen ich will kein Autopay mehr.

00:56:45: Jetzt kann man natürlich irgendwie argumentieren und sagen, naja warum ist das Doomscrolling denn trotzdem weiterhin von Anfang an eingeschaltet?

00:56:52: Warum kann ich mir dann nicht suchen ob ich Doomscrollen will statt es irgendwie abschalten zu müssen.

00:56:58: Was natürlich auch wieder heißt dadurch dass sozusagen der Mechanismus andersrum ist also ich als Userin dann entscheiden müsste nicht mehr Doomscrollern zu wollen in die Einstellung muss.

00:57:06: Es heißt wiederum Man will schon wieder Nicht-Anders-Geschäftsmodell.

00:57:12: diese Plattform Die verdienen ja alle deswegen da dran, weil sie Daten über uns sammeln und diese Daten verkaufen.

00:57:20: Das ist der Grund warum wir so lange wie möglich auf diesen Plattformen bleiben sollen.

00:57:23: Deswegen gibt es all diese etlichen Banner die rumfliegen oder nicht rumfliegen... ...die Art und Weise wie all diese Apps strukturiert sind und die Website strukturierend sind.

00:57:31: Da steckt so viel Psychologie hinter.

00:57:33: Es gibt einen Grund warum TikTok oder Facebook so aussehen, wie sie aussehen.

00:57:36: Warum Insta in seiner App so aussieht?

00:57:40: Und das ist irgendwie Gut gemeint.

00:57:43: und schon wieder geht man nicht an das eigentliche Geschäftsmodell dran.

00:57:46: Nämlich dass, was dafür sorgt, dass ich so lange wie möglich für diese Plattform bin mit der dann diese Platform so viel Kohle wie möglich über mich machen.

00:57:54: Ja da ist wieder so die Frage... Wer hat das Gesetz hier für Weichling?

00:58:01: Wer hat es verwässert?

00:58:03: Warum opt out?

00:58:04: Das ist die Frage.

00:58:05: Und es gehört auch dazu, Push-Nachrichten ausschalten zu.

00:58:08: können sie nicht mit der eigenen Aktivität zusammenhängen?

00:58:10: wo ich sagen muss nichts nervt mich so sehr wie dass sich bei TikTok am laufenden Band pushnachrichten kriege die gar keinen Bezug haben.

00:58:18: irgendjemand hat irgendein Video gepostet?

00:58:20: Krieger ich ständig.

00:58:22: Ich kriege E-Mails Instagram Tiktok.

00:58:24: also man muss da zu sagen ich habe ja nicht nur einen Account es gibt ein paar Accounts und dann kommen immer wieder diese Es ist zu viel einfach werde zu viel beschalt.

00:58:32: das fände ich gut das auszuschalten.

00:58:34: Ich will sehr auch, dass du die Sorgen, die du da schilderst.

00:58:37: Berlin sieht auch Sorgen!

00:58:39: Berlin ist mit dem Vorschlag nicht einverstanden und es gibt ein nicht öffentliches Schreiben über das die Agence Europe berichtet hat.

00:58:47: Und darin soll die Bundesregierung argumentieren – wir haben ja schon Verbraucherrichtlinien können wir die nicht einfach anpassen sondern anstatt ein neues horizontales Gesetz zu erschaffen?

00:58:57: ich weiß nicht ob ihr Problem aber opt out, opt in Problem ist und die defaults oder ob sie nicht möglicherweise ein anderes Problem damit sehen.

00:59:05: Das wissen wir nicht so.

00:59:06: Ja das finde ich auch schwierig einzordern.

00:59:08: also es gibt Gespräche wie man geführt hat mit so Datenschutzrechtlern, die dann natürlich auch sagen ach Deutschland ist gar nicht so datenschutzmäßig krass drauf und lobiert dann vielleicht auch gerne mal oder übernimmt die Sprache der Tech Lobbyisten.

00:59:22: Deswegen finde ich das ganz schwer einzuordnen, aber es stimmt in jedem Fall dass trotzdem schon Regeln und Regulierungen da sind, die man auch einfach umsetzen könnte.

00:59:29: Man müsste nicht diesen Fernsehakt machen.

00:59:35: Warum die deutsche Regierung, warum Deutschland so steht wie sie stehen kann man nicht sagen.

00:59:39: ist also was sie sagen stimmt in dem Fall schon?

00:59:42: Die Motivation dahinter ist schwierig irgendwie zu durchsehen oder zu durchleuchten.

00:59:49: Ich glaube, dieses... Was wir eigentlich alle wollen ist irgendwie Plattformen die gute Produkte zu guten Kondition anbieten und nicht Plattforms, die uns Kunden am geschicktesten manipulieren.

01:00:02: Einheitliche EU-Regeln dafür wären super, sind super!

01:00:07: Wir müssen als User am Ende uns fragen wenn das dann durchgesetzt wird, zwanzig, achtenzwanzig neunzwanziger oder dreißig weil solange wird es dauern?

01:00:21: Wie weit ist schon Technologie, wie weit sind dann schon andere Möglichkeiten mit den Plattformen uns weiter manipulativ psychologisch irgendwie targetten können und uns zur Verwaltdauer anhalten werden.

01:00:33: Egal was es ist diese Firmen werden ein Teufelton ihr Geschäftsmodell angreifen zu lassen.

01:00:39: Diese Firmen würden einen Teufel tun ihr Geschäftsmodell verändern zu müssen weil dieses Geschäfts Modell sie verdammt reich gemacht hat und noch weiter reich machen wird.

01:00:47: Alles was da steht, wird vielleicht erstmal okay sein und trotzdem werden sie uns noch genug Daten aus uns rauspressen können.

01:00:54: Und damit reichwerden und ich glaube das ist so... Das klingt immer so doof ernüchternd, dass wir gerade aufgefangen

01:00:58: haben.

01:00:59: Wir sagen immer, hier ist Doomscrolling für die Ohren!

01:01:01: Ich finde, das haben wir heute ganz gut hingekriegt aber es war ganz fantastisch, dass du hier warst liebe Farangis.

01:01:07: Ich hoffe, du kommst nochmal wieder?

01:01:08: Das war mega!

01:01:10: Also mittels Spaß gemacht, wenn es dir Spaß gemacht hat.

01:01:12: Absoluter

01:01:13: zu mir Spaß

01:01:14: gemacht!

01:01:15: Dann komm ich wieder... Mir ist gerade noch ein Gedanke gekommen übrigens zur Uber.

01:01:19: vielleicht

01:01:20: blockieren sie das ja auch dass KI-Agenten für Menschen ihre Fahrten bruchen können weil wenn ich die Uber App nicht öffne dann kriegt uber auch nicht meine Daten weil ich ja auch nicht auf dieser App verweile ne?

01:01:30: Dann haben Sie keine Standortdaten von mir.

01:01:34: Ja as you see it's always about me being

01:01:37: on

01:01:38: platforms so they can sell my data.

01:01:42: Aber dann würden Sie nicht in Ihren Quartalzahlen diese vier Fahrten nennen.

01:01:47: Weil dann müssten sie sich ja eingestehen, dass es die Trotzung

01:01:49: gibt.

01:01:49: Wir müssen noch mal extra vergezogen machen.

01:01:51: Ja, mach mal sehen.

01:01:54: Jetzt müssen wir uns erst einmal mit eBay beschäftigen!

01:01:57: Vielen Dank, dass ihr hier warst.

01:01:57: Ich wünsche dir ein ganz tolles Wochenende und allen die bis hierhin zugehört haben auch ein ganz fantastisches Wochenende!

01:02:03: Wenn euch gefällt was wir hier so machen dann schaut mal auf hacknerin.org vorbei.

01:02:06: da ist nämlich unser Discord.

01:02:07: Da ist der Link zur Campfire FM wo ihr die ganzen Links findet Und da kriegt ihr Tickets für den achten zwölften wo wir live in Köln sind.

01:02:14: ich wünschte euch ein schönes Wochenend.

01:02:15: Wir hören uns am Montag wieder Dann mit Nicole Digmann.

01:02:18: passt auf euch auf und liebe Farangis das war ganz toll.

01:02:20: Danke

01:02:21: Danke Mach's gut Tschau.