Was Meta über junge Menschen nicht wissen will (mit Dr. Anneke Buffone) (Spezial)

00:00:00: Hallo zusammen zu einer kleinen besonderen Spezialfolge von Haken dran.

00:00:05: Eigentlich hatte ich ja angekündigt, dass heute Dennis hier ist.

00:00:08: Dennis Horn ist es am Freitag in der nächsten Folge Haken dran hier.

00:00:11: also da können wir uns schon mal gemeinsam darauf freuen.

00:00:14: Vorher aber gibt es heute eine kleine besondere Episode und zwar habe Ich ein Interview geführt und zwar mit einer Person die glaube ich für Hörerinnen und Hörern dieses Podcasts sehr sehr spannende Dinge zu erzählen hat Und zwar geht es um Dr.

00:00:28: Anneke Buffon.

00:00:29: Anneke buffon hat bei Meta gearbeitet dort mehrere jahrelang geforst als ux research wie sagt man forscherin so also sie hat im user design bereich geforscht vor allem bei den themen was meta für den jugend schutz tut.

00:00:47: und wir wissen hat meta da in den letzten jahren ein bisschen nachholbedarf aufgebaut nicht aber weil sie mich wissen würden.

00:00:54: dass sie möglicherweise jugendgefährdende Maßnahmen oder Entscheidungen getroffen haben, sondern obwohl Sie es gewusst haben.

00:01:02: Das wird uns einige in diesem Gespräch erzählen und ich will euch kurz auch erklären wie's zu diesem Gesprich gekommen ist oder warum ihr das jetzt hier als sondervoll gehört.

00:01:09: Denn wenn Ihr diesen Podcast häufig hört wisst Ihr das?

00:01:14: Ich führ öfter mal Gespräche aus denen es dann Ausschnitte gibt die wir dann im Podcast gemeinsam mit unseren Gästen hören Und genau so ein Interview sollte das eigentlich auch werden.

00:01:23: Ich habe mich mit Anneke am vergangenen Freitag digital getroffen und wir haben ein Gespräch geführt, und im Laufe dieses Gespräches habe ich gemerkt... Das kann ich nicht einfach nur in drei mal eine Minute Ausschnitten senden oder hier im Podcast platzieren, sondern ich finde wir sollten uns das alle gemeinsam anhören.

00:01:41: Weil sie erzählt warum sie Meter verlassen hat weil Sie aber auch erzählt was sie getan hat was sie gelernt hat bei Meter und auch was sie eigentlich besser weiß als viele andere beim Meter Aber man hat ihn nicht zugehört.

00:01:55: ungefähr so würde ich das zusammenfassen.

00:01:56: Und weil ihr merkt dass zusammenfassend ist gar nicht so einfach.

00:01:59: Ich wünsche euch jetzt ganz viel Spaß.

00:02:01: Warum ich das erkläre, dass es eigentlich ein Ausschnitt sein sollte oder Ausschnitte ergeben sollte ist übrigens deswegen wichtig weil meine Soundqualität in dem Gespräch nicht so gut ist wie ihr das möglicherweise von Haken dran gewohnt seid.

00:02:12: Das liegt einfach daran weil ich dachte ich brauche ja nur ihre Antworten.

00:02:15: da kann ich mich auch mit meinem kleinen Mikrofon eben zuschalten.

00:02:19: Ich hoffe, das verzeiht ihr.

00:02:20: Ich habe eh nicht so viel zu sagen weil das meiste Annika erzählen wird aber ich wünsche euch ganz viel Spaß mit dem Gespräch und ganz viel Spass mit dieser kleinen Sonderfolge von Haken dran!

00:02:29: Und wir hören uns dann wieder am Freitag mit Dennis Horn.

00:02:32: Viel Spaß!

00:02:33: Magst du vielleicht zum Start mal einmal ein bisschen was über dich erzählen damit wir es einmal aus erster Hand haben wie deine Rolle jetzt ist und wie deine Role war als du noch bei Meta warst und vor allem wann das war?

00:02:44: Ja, gerne.

00:02:45: Also ich komme aus Deutschland wie man hört aber bin nicht mehr das Deutschsprechen so gewohnt, also seid mit mir vorsichtig.

00:02:54: Liebe Hörer tut mir sehr leid wenn ich die Worte nicht finde!

00:02:57: Ich versuche meinen Bestes aber ich habe halt wenig in meinem Leben über meine Arbeit oder mein Lebensgang auf Deutsch gesprochen.

00:03:04: von daher... Aber ich bin ein norddeutscher Aufgewachsen in Kloppenburg.

00:03:06: Das kennt eigentlich kein Mensch, aber es ist eine Nähe von Oldenburg in Niedersachsen.

00:03:11: und dann habe ich studiert Sozialpsychologie, mein Doktor gemacht.

00:03:15: Ich hab auch ein bisschen Sozialsoziologie und Politologie.

00:03:20: Also er hat mich noch meinen Plum gemacht damals.

00:03:24: Ja und dann habe ich bei Meta gearbeitet sieben Jahre lang.

00:03:28: Und zwar in ganz verschiedenen Bereichen, am Anfang im Well-Being Bereich.

00:03:32: Da ging es tatsächlich um Screen Time und eben Sucht also und dann am Ende, zwischendurch aber auch in diesen Growth Team so wir tatsächlich an den Algorithmen gearbeitet haben und da am Ende in der Altersbestimmung quasi, so A to Schollens heißt das auf Englisch Und seit und bin dann von Märte entlassen worden, weil ich mich nicht an ihre Benimmregeln für das Sprechenregel erhalten wollte.

00:03:55: Ich habe dann überlegt okay irgendwie... Also ich war immer so ein bisschen Idealist glaube schon und hab also diese Arbeit in der Tech Bronzschutz war zum einen auch sehr spannend gefunden, habe da sehr viel gelernt.

00:04:09: Ich bin dafür dankbar und habe viele nette Leute kennengelernt.

00:04:12: Aber so ein hundertprozentig war meine, also am Ende wirklich meine Seele nicht mehr dabei und hab dann gesagt okay jetzt kann ich was das ich weiß bei mich bei allen anderen Techfirmen bewerben aber So die Sorge, dass es immer dasselbe sein wird und habe dann gesagt okay ich gründe jetzt so meine eigene Firmen.

00:04:28: Ich habe mich erst noch ein bisschen überlegt.

00:04:29: Jetzt mache ich eine normale Firma oder irgendwie Non-Profit und jetzt will ich mich erstmal entschieden, mich erstmal auf so einen Profit zu konzentrieren und habe eine ganz junge Gründung, die heißt ist klarer Und es geht darum eben soziale Medien aufzuwerten also Ein AI-System, wo wir quasi diese ganzen verschiedenen Apps die Kinder benutzen auswerten.

00:04:52: Das ist ein ziemlich kompliziertes System und das ist bis jetzt noch nicht live.

00:04:57: also es hat monatelang bin ich schon daran am arbeiten aber die Idee ist halt dass man wirklich ganz viele Kategorien sehen kann.

00:05:03: was sind alle die Probleme dieserheitsprobleme und eben die Schwierigkeiten die Jugendlichen erfahren können von irgendwie dass sie Erwachsene kontaktieren können konzeptieren sollten, bis hin zur Altersbeschränkung.

00:05:17: funktioniert das.

00:05:18: Wie funktioniert es?

00:05:19: Es ist sicher und wirklich an meinen eigenen Standards zu arbeiten.

00:05:22: was ich als Sicherempfinde weil ich halt natürlich ein bisschen mehr weiß also der Durchschnittsmensch eben war eine Sicherheit, eine minste Sicherheitsschwelle für Kinder in den ganzen verschiedenen Bereichen bedeuten sollte.

00:05:37: Und ja, ich habe zwischendurch jetzt auch ausgesagt als Zeugin in einem der Prozesse gegen Metta für die Staatsanwaltschaft von Tennessee und genau das ist noch eine Arbeit, die eben noch ein bisschen dazu kommt.

00:05:53: Für mich start quasi.

00:05:55: Und z.B.

00:05:56: was von Clara sind aber dann tatsächlich Kinder?

00:05:58: Die sich damit sozusagen selber schützen können im Netz oder sind es auch Angehörige um das einmal zu verstehen?

00:06:03: noch

00:06:03: Ja, also meine Theorie of Change ist quasi... Also mein Modell quasi ist das wir anfangen mit Jugendlichen Kindern und den Eltern eben.

00:06:16: Weil es halt gibt viele gute Gründe damit anzufangen eben.

00:06:18: Also viele Dinge die man in dem Bereich Jugendschutz macht kommen irgendwann auch Erwachsenen zu Gute.

00:06:24: ja zum Beispiel nicht nur Jugendliche können psychische Probleme entwickeln oder irgendwie für bestimmte Dinge geschützt werden.

00:06:33: Es gibt auch viele Erwachsene, die das benötigen.

00:06:35: also jeder ist.

00:06:36: ich glaube die Statistik ist ungefähr dass ich glaube jeder zweite in seinem Leben irgendwann mal Depressionen bekommt.

00:06:41: zum Beispiel ja es ist ja nicht nur das Kinder diesen Schutz brauchen aber Für Kinders ist halt einfacher eben Dass sich die dass sich auch die verschiedenen politischen Lager einigen können und das finde ich eine sehr schöne Sache auch bei dieser Arbeit.

00:06:53: Also ich habe auch zwischen Facebook News gearbeitet politischen Polarisierungen und all diese ganzen Probleme, also in dem Bereich wo ich arbeite.

00:07:01: Ich finde es halt so schön dass man wirklich alle an einen Tisch bringen kann weil am Ende des Tages wollen alle das ihre Kinder sicher sind.

00:07:08: Also im Moment ist erst mal das die Zielgruppe.

00:07:09: aber was hat mich ein bisschen unterscheidet?

00:07:11: Dass ich es nicht so sehe.

00:07:12: so.

00:07:13: ja wir geben jetzt den Eltern auf ein Spyware um ihre Kinder irgendwie zu kontrollieren.

00:07:19: Das System, meiner Meinung nach funktioniert halt auch nicht sehr gut.

00:07:21: Ja weil die Eltern wissen zum Teil selber nicht was sie da sich angucken.

00:07:24: wenn ich irgendwie mehr jetzt bei Genshin Impact oder irgendwelchen Computer spielen also da irgendwie durchsteigen soll oder Minecraft oder so wie das alles funktioniert.

00:07:31: Ich spiele es selber nicht.

00:07:33: Da kann ich als Eltern gar nicht so viel machen und das ist so oft so.

00:07:36: Und die Idee ist halt eben man macht eine Kollarabene Zusammenarbeit genau dass man halt.

00:07:41: dem sagt man da die Eltern müssen natürlich mit drin sein irgendwie.

00:07:45: aber es ist auch ganz wichtig dass die Jugendlichen halt selber lernen.

00:07:49: Wie werde ich so quasi digital ausgezogen von diesen Apps?

00:07:52: Wie kann ich das vermeiden, wie kann ich die Dinge sehen und was mir nicht gut tut.

00:07:58: Welche Settings habe ich selber zur Verfügung ohne dass die Eltern da eingreifen müssen weil am Ende des Tages irgendwann ist der Jugendliche älter also alt genug aber es jetzt dreizehn oder fünfzehnt oder achtzehn oder zwanzig ist.

00:08:09: Irgendwann ist der Mensch mit diesem App alleine und dann ist er allein in diesem Tunnel.

00:08:14: Und da muss er vorbereitet sein dafür, deswegen hilft das eigentlich meiner Meinung nicht, dass es immer nur die Eltern sind weil dann lernen sie das ja nicht.

00:08:22: Also wir spinden ja auch nicht unseren Kindern das ganze Leben lang die Schuhe zu.

00:08:29: Aber hochinteressant, kennst du noch einmal?

00:08:31: Du hattest gerade das so beiläufig gesagt, dass du in dem Team für Altersbestimmung bei Meta gearbeitet hast.

00:08:37: Und es ist ein interessantes Thema weil wir grade in Deutschland und Europa so strengen also in den USA ähnliche Diskussionen.

00:08:44: aber hier haben wir sie glaube ich auf einem anderen Niveau über Social Media Verbote für minderjährige diskutieren und wir alle sprechen vor allem die sehr bewusst sich mit dem Internet auseinandersetzen häufig dann Von dem Preis, den wir dafür zahlen, nennt mich sehr hoch ist.

00:08:58: Nämlich die Anonymität, die wir damit aufgeben.

00:09:01: Jetzt wissen wir das zum Beispiel Discord diese Altersschätzung mittlerweile eingeführt hat in dieser Woche.

00:09:07: Also wann hast du?

00:09:08: In welchem Jahr hast du Meter verlassen?

00:09:10: Wie habt ihr daran gearbeitet und wie ist da der Stand was altersbestimmung bei Aufmetersite angeht?

00:09:15: Ja also ich bin tatsächlich erst im Dezember letzten Jahres gegangen.

00:09:20: Also von daher war ich ziemlich lange noch mit dabei und habe zwei Jahre zuvor eben in diesem Bereich gearbeitet, den halt als Forsch... also ich hab die Forschung eben geleitet übergreifend über die Apps für Altersbestimmung.

00:09:33: Das ist mal so dazu.

00:09:35: Und ja es sind ganz schwieriges Thema.

00:09:39: Da gibt's ganz viele Windel, jeder hat eine Meinung irgendwie Bands oder nicht Bands.

00:09:42: aber ich glaube am Ende des Tages ist es so.

00:09:45: Viele von uns, ich eingeschlaßene sind im Moment für Bands.

00:09:49: Aber ich bin es nicht, weil ich glaube das es grundsätzlich nicht sein kann dass Jugendliche auf diesen Apps sind.

00:09:56: Ich finde eigentlich auch... Es gibt sicher positive Dinge aber so lange die Apps nicht gewillt sind und uns nicht zeigen, dass sie die Apps, dass Sie den Jugendschutz ernst nehmen.

00:10:07: Ich glaube ich, dass wir eigentlich fast keine Wahl haben als diese mehr drastischen, also ich sage immer so blunt, blunt Tours.

00:10:17: Also es ist wirklich schon ein bisschen wie mit einem Also ich weiß nicht, mit einem Vorschuss haben wir irgendwie keine Ahnung.

00:10:27: Irgendwas daran zu gehen wo man vielleicht auch einen Hammer nehmen könnte.

00:10:30: aber es liegt wirklich daran dass es so grott und schlecht ist wie... der Jugendschutz im Moment gehandhabt wird.

00:10:39: Der zweite Punkt, den du noch mit so da drin hattest, den wollte ich auch noch ansprechen also wie das ist mit der Privatsphäre?

00:10:46: Es ist ja so dass die Forschung immer weiter kommt und ich glaube auf jeden Fall muss es eine Grundlage sein eine Privacy First, eben Altersbestimmung sein soll.

00:11:00: Es gibt keinen Grund, dass wir jedem App da unseren Personalersweise oder unseren Pass schicken sollen.

00:11:05: das finde ich eigentlich also völlig verrückt und es ist auch was was nicht funktioniert ja weil... Also es geht ja um Jugendliche eigentlich, es geht hier nicht um Erwachsene hauptsächlich Und Jugendliche und Kinder haben in vielen Ländern der Welt gar kein Pass oder Personal.

00:11:18: wo ich lebe im USA hat fast am viel Erwachsenen nicht mal passen wäre vielleicht besser, wenn sie einen hätten, teilweise und reisen würden.

00:11:27: Aber ne?

00:11:28: Also das haben wir jetzt schon beiseite gelassen.

00:11:32: Das ist ja in Deutschland auch so.

00:11:35: Mit drei Zehnen hat überhaupt keinem Personal das weißen.

00:11:38: Das gibt es hier auch erst mit sechzehn.

00:11:41: Und da sind so Sachen.

00:11:42: Das funktioniert gar nicht gut.

00:11:45: Man muss sich wirklich... Wir müssen uns darauf konzentrieren eben viel mehr auf diese Dinge zu verlassen die eben subtil da sind.

00:11:53: Also zum Beispiel jedes App weiß ja unheimlich viel über uns, die wissen... dass sie mir Antifaltengräbe verkaufen können.

00:12:01: Wahrscheinlich irgendwie, ich kriege sowas... Ich krieg viel Mamainhalt weil ich habe viele Kinder.

00:12:06: Ich kriege irgendwie keine Ahnung und ich krieg über so mein Teigmontosport und solche Sachen kriege ich Sachen.

00:12:11: Die wissen ja wer wir sind!

00:12:12: Ja die wissen das.

00:12:13: ich kein Mann bin ziemlich sicher.

00:12:16: Also bestimmte Themen krieg' ich nicht.

00:12:18: Und ich hab weniger sexy Frauen in meinem Feed als jetzt mein Mann zum Beispiel hat.

00:12:25: Das sind halt einfach... Die wissen so viel, die wissen auch ein ungefähres Alter.

00:12:31: Wenn meine Tochter sich bei YouTube was anguckt, dann wissen sie ganz klar, dass sie das Skincare und solche Sachen will oder eine Produkte für jüngere Mädchen.

00:12:42: Das sind halt so Sachen.

00:12:43: von daher denke ich, es gibt viele... Neue Technologien, die auch so über Swipes arbeiten.

00:12:50: Die schauen halt eben wie schnell geswipet wird, welche Emojis verwendet werden, also wie schnell sie tippen und solche Sachen.

00:13:01: Also auch Wortwahl und können darüber einiges erkennen.

00:13:04: Das ist eigentlich die Forschung, die wir investieren müssen und dann auch das Konsumverhalten.

00:13:11: Je nachdem, was jemand eben konsumiert.

00:13:14: auf diesen Apps kann man ja auch... Das ist ein schöner Selbstversuch.

00:13:19: Also jeder kann sich seinen eigenen Feed angucken und dann den von seinem Partner, seinem Kind seiner Oma weiß ich nicht und sehen.

00:13:28: also man kann aber schon ziemlich so ein kleines Persönlichkeitsprofil wenn man sich so anguckt was denn so kommt?

00:13:35: Ich finde das ist ein ganz wichtiger Punkt den du da sagst.

00:13:37: Weil also alle, die irgendwie beruflich mit digitalen Medien zu tun haben, haben ja auch schon mal in Analytics geschaut.

00:13:42: Und sie bekommen dort allein durch das Nutzungsverhalten ihres Publikums, also mindestens seit über zehn Jahren so ungefähr Altersgruppen ohne dass Menschen bei Instagram irgendwie ein Geburtstag umangeben mussten oder was Spotify einen Geburtstatum angeben musten.

00:13:57: Heißt das aber eigentlich unterm Strich?

00:13:59: Wir müssen uns in der Politik in Europa ein bisschen Gang zurückschalten weil eigentlich sind die Unternehmen in der Lage des Alter zu bestimmen.

00:14:06: Oder heißt das, wir können ihn trotzdem nicht vertrauen und müssen deswegen leider trotzdem auf den Ausweis zurückgreifen oder die Pässe.

00:14:14: Ja da sind hier so ein bisschen zwei verschiedene Paar Schuhe für mich.

00:14:17: Können die Firmen das?

00:14:18: Ich würde sagen auf jeden Fall!

00:14:20: Also ich meine es geht natürlich... Es ist schwieriger.

00:14:22: also es gibt Dinge die können sie erstmal ganz klar erklären.

00:14:25: Die Firma kann, also niemand kann sagen ist jemand zwölf und halb oder dreizehn.

00:14:30: Oder irgendwie siebzehnteinhalb oder achtzehn?

00:14:32: ja weil genauso wie im normalen Leben wenn man Menschen sieht es gibt Leute die sind Es gibt Leute, die sehen aus wie fünfzehn.

00:14:43: Und da kommen natürlich auch noch ethnische Unterschiede dazu.

00:14:46: Es gibt auch Bevölkerungs- also eben ethnischen Bevölkerungsgruppen, die Jünger aussehen und so weiter.

00:14:53: Also diese Facial Recognition zum Beispiel, die genutzt wird ist dann nicht immer sehr gut.

00:14:57: Das wird besser aber es ist immer noch nicht sehr gut und genauso schwer als das Alter von jemandem zu schätzen, den man trifft.

00:15:04: Ist es so auch schwer ja?

00:15:06: Aber man hat viel mehr da.

00:15:08: und von daher, wenn es um so Altersgruppen geht.

00:15:14: ist es viel, viel einfacher.

00:15:15: Also sozusagen ist derjenige wahrscheinlich erwachsen oder wahrscheinlich nicht erwachsen und das hilft schon die Privacy natürlich schon mal sehr viel.

00:15:21: ja weil man kann schon mal ganz viele Leute eben aus quasi sortieren.

00:15:27: so das ist die eine Sache und dann kann man den Firmen trauen.

00:15:30: also da würde ich sagen eher nicht leider.

00:15:33: und also da es ist halt so dass man am besten diese Altersbestimmungen eben außerhalb von den Firme auch macht.

00:15:41: also und das ist ja auch in den europäischen Entwicklungen dürfen mit drin, soweit ich verstehe dass es da auch diese Altersbestimmungs eben dieses App gehen wird und das ist eben ganz wichtig.

00:15:51: Dass es über Tokens läuft, dass die Firma braucht ja nicht, also die Firma hat eben das App braucht ja keine Adresse und irgendwie deine Augen... Sie stärke oder sowas.

00:16:05: Und das ist ganz, ganz wichtig.

00:16:06: und dann eine Sache die ich auch nochmal dazu sagen muss immer ist dass es ganz wichtig ist wie das gehandelt wird was mit dem App geteilt wird.

00:16:15: letztendlich ja weil es geht natürlich nicht dass wir am Geburtstag alle freischalten weil dann weiß natürlich das App am Geburztag genau das ist Geburtstatum.

00:16:24: also das sind auch noch mal so Sachen dass man überlegen muss.

00:16:27: wahrscheinlich heißt es dann dass Jugendlichen nicht genau in mit dreizehn drauf kommen oder fünfzehn, sondern eben etwas früher, etwas später.

00:16:37: Das ist auch noch mal wichtig.

00:16:38: aber ja man kann darauf sich verlassen dass die Firmen die Daten haben und das sie wahrscheinlich eine der besten sind es auch also in dieser Forschung.

00:16:48: Aber ich glaube trotzdem sollte es besser außerhalb geregelt

00:16:50: werden.

00:16:52: Und wer wüsste das besser als du ehrlicherweise?

00:16:55: Deswegen würde ich gerne so ein bisschen auf deine Zeit dann wieder zu sprechen kommen.

00:16:58: Wir haben ja sozusagen, wenn du letztes Jahr erst das Unternehmen verlassen hast, haben wir parallel darüber gesprochen.

00:17:05: Du im Unternehmen?

00:17:06: Wir als Journalistinnen von außen drauf und wir haben uns immer natürlich darauf verlassen müssen was Menschen aus dem Unternehmen durchstechen, was es für Erzählungen gibt und ich habe in Vorbereitung auf heute so ein bisschen mir angeschaut worüber haben wir denn sowas Jugendschutz beim Meta angeht eigentlich gesprochen?

00:17:22: und wir hatten darüber gesprochen dass es Hinweise darauf gibt Inzente oder als Zielsetzung für Adam Osary Galt die Stickiness zu erhöhen, die Zeit auf der Plattform zu erhöht.

00:17:35: Wir haben darüber gesprochen dass es Mark Zuckerberg durchaus seit Jahren bekannt war welche Gefahren für junge Menschen in Virtual Realities bestehen und er obwohl er besser wusste das Team vermeintlich ist wenn sie öffentliche Berichterstattung angehalten hat sich so über den eigenen Schutz hinwegzusetzen.

00:17:53: Hast du sowas ähnliches auch dort beobachtet?

00:17:55: Das ist sozusagen eigentlich Händnisstände gab und dann aber aus wirtschaftlichen oder vielleicht auch einfach unternehmerischen Gründen gesagt würde, na ja egal.

00:18:06: Ja also das ist so ein bisschen... Also ich habe das auch damals in meiner Aussage gehabt als es eben um diesen Tendency-Trial ging.

00:18:14: Es ist halt so man muss sich das so vorstellen dass eine Firma da sind ganz viele verschiedene Teams Also oft arbeiten die halt auch sehr quasi in ihren eigenen Silos.

00:18:27: Und dann gibt es dann nicht, dass das ganz normal, dass es Teams gibt deren... wirklich Ziel es ist, Leute so viel möglich auf dem App zu haben.

00:18:36: Und dann gibt's andere Team die quasi an der Sicherheit arbeiten.

00:18:39: ja und das ist jetzt nicht nur bei Meta so dass in der ganzen Industrie also dieser ganzen App-Industrie ist es soweit ich verstehe fast überall irgendwie so, dass halt diese Teams eben dann eher ihr eigenes Ding machen Ja?

00:18:52: Und natürlich die Firma das was der Firma Geld bringt sind die Teams die die Leute auf den Apps lassen und so die Teams.

00:18:59: also meins am Ende Die Teams sind eher das Gegenteil.

00:19:04: Und ein Problem ist eben, dass es so ein bisschen so als wenn man quasi ein Auto baut in Deutschland und dann kommt aber irgendwie der Sicherheitsgurt oder Airbag, der wird irgendwie in, sagen wir mal, weiß ich nicht, ich sage, im Random Land in den USA gebaut ja jetzt so.

00:19:20: Aber das Team in den USA und das Team die sprechen nicht somit dieselbe Sprache?

00:19:24: Ja!

00:19:25: Dann irgendwann schickt, dann kommt da ein großes Paket an aus Amerika mit dem mit diesem Equipment und dann merken die, oh scheiße das passt aber das Auto gar nicht rein.

00:19:37: Und jetzt haben wir gar keinen... Leider funktioniert das nicht irgendwie und der Airbag geht los, aber irgendwie macht er die Windschutzscheibe kaputt oder so ja?

00:19:46: So muss man sich das ein bisschen vorstellen.

00:19:49: also kann man sich halt vorstellen dass es da eben nicht so ganz super funktioniert immer mit diesen Sicherheitsgeschichten.

00:19:54: und was noch dazu kommt ist eben Also wenn eine Firma so Ziele hat, dass eben Jugendliche gerade und junge Erwachsene wie das bei Metta auch war.

00:20:04: Und nicht dokumentiert ist auch, dass es ganz klar Ziele gab, dass man Jugendliche so viel wie möglich auf den Apps haben will.

00:20:11: So kann man sich vorstellen warum das nicht total verrückt ist dass dann auf einer anderen Seite ein Team gibt, was dafür sorgt.

00:20:18: Also das eben für die Altersbegrenzung zuständig ist und für den Jugendschutz ja?

00:20:23: Und das Problem ist eben, also es ist quasi so ein bisschen als ob man so gespaltene Persönlichkeit, ich muss nur sich das vorstellen.

00:20:33: Genau!

00:20:34: Auf jeden Fall ist es so, wenn man da... Für mich, als ich da gearbeitet habe, hat es sich angeführt, dass oft so war, dass auch mal irgendwie die Opposition ist und so aber man so richtig Man kommt halt nicht so richtig durch, dass die Dinge passieren, die man in diesen Sicherheitsteams sich passieren sollte.

00:20:58: Das war auch der Grund, warum ich dann am Ende ... was für mich Probleme geschaffen hat, weil sie dann gesagt haben wir dürfen bestimmte Dinge nicht mehr erforschen.

00:21:07: Also wie ich auch vor Gericht gesagt habe zum Beispiel wir durften nicht fragen welche sind eure Kinder auf Instagram oder Facebook also das dürfte mir nicht Eltern befragen irgendwie und als unter drei zehn ja.

00:21:20: und wenn man so solche Zahlen nicht hat Dann kann man viel weniger machen.

00:21:25: Ich bin quantitativer Forscher gewesen, ich habe Service viel gemacht und auch Interviews gemacht.

00:21:30: Aber ich verfiel für diese ganze Quantitative Forschungsduschehnung.

00:21:33: Ich hab ganz lange dort an den Algorithmen direkt gearbeitet also den Ranking-Algorithmen die eben dafür sorgen was man zuerst sieht.

00:21:42: Damals war das bei Facebook Gruppen gewesen.

00:21:46: Was in der Gruppe zuerst kommt?

00:21:47: Welche Gruppe du zuerst siehst?

00:21:48: In deinem Feed usw.

00:21:50: Und auch die Qualität, das ist nicht alles so wie blöde, keine Post sind.

00:21:56: Sondern halt die, die man sehen möchte vielleicht.

00:21:58: und wenn man da so mal wirklich drin war dann merkt man halt also es ist halt eben diese sicher kommt halt so gegen dieses anderen Teams eben nicht an.

00:22:09: Das hat ganz viele verschiedene Gründe und am Ende war's halt auch so wir durften nicht mehr drüber richtig sprechen.

00:22:14: Also zum Beispiel... Als ich dort angefangen habe, es war auch ein ganz anderes... Da wurden wir angehalten und sagten jetzt schreibt nicht so wie die Akademiker in eurem Elfenbeinturm.

00:22:24: Irgendwie mit tausend irgendwie fünftausend so.

00:22:27: Jetzt könnte auch dies und das Und wissen uns nicht ganz so sicher und so Die ganzen Limitations sind bei der Forschung Sondern ihr müsst tacheles reden Einfach so eins zwei drei vier Das haben wir gefunden Das könnten die Probleme sein Das sollt ihr machen Also wirklich Ansagen geben dem PM usw.

00:22:42: Und das haben wir auch alle so verinnerlicht und so.

00:22:45: Und dann aber über die Zeit hinweg, als dann diese Leaks kam, hieß es da nein eigentlich.

00:22:48: Wollen wir doch... Schreibt doch lieber so wie die Akademiker oder am Ende war's dann so, schreibt lieber noch viel vorsichtiger.

00:22:53: also zum Beispiel muss man sagen, wir durften nicht mehr sagen Metta sollte das machen sondern Metta sollte sich überlegen oder sollte in Erwägung ziehen dies und dies vielleicht zu tun nach dem Motto ja?

00:23:06: Natürlich kann man sich vorstellen wenn er einen Team sowas kriegt, wie sollte vielleicht in Erwebung ziehen?

00:23:11: Das hört sich jetzt nicht an wie Handlungsbedarf, ja?

00:23:14: Und also so muss man sich das vorstellen.

00:23:16: Das hat eben als Forscher irgendwann... Also das fühlte sich dann schon unethisch an.

00:23:20: Man sich überlegt, man... ...also dann waren bestimmte Sachen die sollten wir gar nicht empfehlen oder so.

00:23:24: Ja diese Empfehlungen sollte man lieber rausnehmen und so.

00:23:28: Was ist denn überhaupt mein Job hier noch,

00:23:32: ne?

00:23:32: Genau!

00:23:33: Kannst du ein konkretes Beispiel für irgendeine Erkenntnis oder eine Handlungsempfehlung nennen wo ihr gesagt habt?

00:23:39: Wir sehen hier gerade ein massives Problem Und es wurde am Ende nichts gemacht?

00:23:45: Also die Sache, die ich erklärt mir mit diesem Kinder unter dreizehn.

00:23:49: Wenn man das ein Problem lösen möchte, dass Kinder unter dreizehnt nicht auf den App sind muss man erst mal wissen wie viele da sind und warum Eltern ihre Kinder darauf lassen.

00:24:00: Ja, also warum irgendwie oder warum?

00:24:01: Also wissen das die Älter nicht.

00:24:04: Wissen es die Eltern doch?

00:24:06: Wie passiert's jetzt?

00:24:07: und natürlich... Man muss es ja für seinen eigenen Bereich auch wissen.

00:24:12: Das hilft nicht unbedingt wenn wir das jetzt wissen für keine Ahnung.

00:24:15: alle sozialen Medien überhaupt weil so ein Survey sind immer nur so gut wie die Fragen die wir stellen.

00:24:22: Und das ist halt mein ganzes Leben quasi ich mache das schon über zwanzig Jahre.

00:24:28: Man muss halt, wenn man fragt irgendwie sind deine Kinder auf sozialen Medien unterwegs.

00:24:33: Einige Eltern zielen YouTube mit rein, andere nicht.

00:24:36: Die einen Eltern zählen rein wenn ihr Kind ihr Telefon mal nimmt beim Dinner, wenn die Eltern ihre Ruhe haben wollen und schauen sich irgendwie ein paar Tiktoks an.

00:24:44: ja der nächste ist irgendwie Influenza auf Instagram mit irgendwie Dreizehn oder so und weiß ich nicht schmiert sich irgendwelche Cremes ins Gesicht.

00:24:55: ja also vielleicht die nächste mit schön Retinol oder so.

00:25:01: Das ist ja, deswegen muss man ... Und das war eben eine Sache, dass solche Forschung nicht mehr konkret möglich ist und dann auch diese ... Also das ist ganz wichtig, weil wenn man nicht die richtigen Fragen stellen kann, die ganz konkret da hinführen, was man machen könnte, das wird wirklich schwierig.

00:25:24: Und es sind viele solche ... ... an Dinge gewesen auch und wenn es auch um Empfehlung geht, irgendwie zum Beispiel.

00:25:30: Wenn man nicht Dinge empfehlen kann die vielleicht besser wären

00:25:34: z.B.,

00:25:34: also zum Beispiel eine Sache ist auch das... Also ja, ich weiß noch mehr Fragen als ich.

00:25:42: Vielleicht tu hast du noch ne andere Frage?

00:25:44: Aber das

00:25:45: ist ein gutes Beispiel wo ich sagen muss, dass war für mich so einen Knackpunkt, als das dann so schwierig war.

00:25:53: Hattest du denn das Gefühl, weil du sieben Jahre im Unternehmen warst, dass es jetzt auch nicht nichts?

00:25:58: Dass sich irgendetwas in den letzten ungefähr zwei Jahren verändert hat im Unternehmen.

00:26:04: Ja also schon über die ganze Zeit hat sich viel verändert.

00:26:07: Also als ich angekommen bin, war eigentlich noch so ziemlich happy, wo ich gearbeitet habe.

00:26:14: Das war ein Bing-Team und ich durfte halt eben diese Suchterforschung auch.

00:26:18: Und da wurde wirklich nach Forschung gemacht nicht unbedingt nur positive Seiten von den Apps gezeigt hat und damals würde ich auch sagen, wurde auch verantwortlicher damit umgegangen.

00:26:32: Aber immer noch nicht so wie es sein sollte aber auf jeden Fall besser!

00:26:36: Und dann als diese Leaks kamen Also dann hat man das Gefühl, da war immer mehr so der Daumen dann drauf.

00:26:41: Und es war also vor allem auf uns Forscher eigentlich.

00:26:45: Weil natürlich sind wir ein bisschen das explosive Material in dieser Firma ja?

00:26:54: Wir haben unseren Doktor und wir haben diese Studien.

00:26:57: Wir wissen genau was wir fragen müssen und wenn die Leute uns ehrlich antworten ist das für die Firma erst mal vielleicht blöd.

00:27:05: Und dann verstehen wir uns auch so, dass ich meinen Auftrag war als ... Ich bin ein User Experience Forscher gewesen.

00:27:12: Das heißt und also... Wie wurde gesagt?

00:27:15: Du bist die für die Stimme des Verbrauchers zuständig!

00:27:22: Mein Kunde ist derjenige, der das App benutzt.

00:27:25: Es geht darum, dass dieser Mensch eben nicht in Schwierigkeiten kommt, dass er eine gute Erfahrung hat und dass nichts Stimmes passiert.

00:27:40: Wenn man natürlich Probleme sieht, dann hat man auch die Aufgabe das man dem Team klar macht muss damit sie es eben beheben können.

00:27:46: Es geht ganz viel darum vorzuschlagen wie könnte man's besser machen?

00:27:49: Man wird ein bisschen Product Designer und ich musste ganz viel über Engineering lernen.

00:27:53: Ich habe ja vorher bei Penn gearbeitet mit Computerwissenschaften zusammengearbeitet.

00:27:58: Also es gibt gewisse Dinge, wenn ich jetzt auch im AI angucke und so.

00:28:03: Ich denke mal sofort ja okay, habt ihr euch eure Daten die reingegangen sind angeguckt?

00:28:08: Habt ihr euch euren Daten, die rausgegangen sind, angegucht?

00:28:10: Und wer ist denn nicht paperst für irgendwelche Computerwissenschaftler irgendwie im AI-Bereich irgendwie Sicherheit für Kinder anguckelt?

00:28:15: Also ja ok!

00:28:16: Habt Ihr wieder das Eilen noch bis andere gemacht?

00:28:18: Ja also

00:28:19: okay, aber das ist jetzt nicht irgendwie ja... Das ist jetzt irgendwie nicht Nobelpreiswürdig.

00:28:26: Ich kenne mich schon aus, ja.

00:28:27: Und ich glaube das war so ein bisschen.

00:28:29: und dann über die Zeit eben also als er in diese Leaks kam, war es dann halt so dass da immer mehr der Daumen drauf ging.

00:28:37: Also man hatte immer so das Gefühl, dass die Forscher quasi so dann immer so sind, die dann vor denen zugeschmissen werden.

00:28:49: Das habe ich auch immer von dem Bericht erzählt, dass es sich immer so angefühlt hat.

00:28:54: Gerade in den ersten Runden der Leaks.

00:28:57: Dass dann die Forschung immer so schlecht gemacht war oder was eigentlich ziemlich beleidigend ist.

00:29:05: sehr ausgebildet, wir arbeiten sehr hart und blödsinnige Forschung machen.

00:29:11: Da würde man gar nicht eingestellt bei so einer Firma, wenn man irgendwie schlecht in seinem Job ist.

00:29:18: Das wurde halt immer mehr und dann haben sie schon auch versucht, dass die vielleicht nicht ganz zu uns ging.

00:29:24: Ich durfte zum Beispiel als meine Forschung geliebt wurde.

00:29:27: Also ich hatte tatsächlich meine Forschungen eben auch im Wall Street Journal.

00:29:31: Und dann wurde ich berufen, dann zu sagen okay jetzt arbeiten wir am Re-Battle intern.

00:29:35: Das war auch eine spannende Erfahrung.

00:29:38: Aber genau und dann also gegen das Ende eben War es dann so dass ist wirklich... Also da ging's halt wirklich darum.

00:29:45: Es gab immer mehr Gesetze, immer mehr gesetze.

00:29:47: Da ist natürlich immer wieder Feuer, Feuer, weil... Also müssen wir diesen, müssen wir das machen.

00:29:53: aber für mich als es wirkte halt im Ende wirklich mehr so Dass es darum ging also mit diesem legalen Druck eben zu arbeiten und das war halt so.

00:30:05: Also ich hatte nicht das Gefühl selber, mein Gefühl war nicht dass es sich anfühlte als ob man ja als ob's irgendwie darum geht die Sicherheit der User steht an höchster Stelle sondern eher so Ja wir wollen nicht tausendmal verklagt werden und so und wir müssen uns dann diese Regel irgendwie erhalten.

00:30:21: Und wie kriegen wir das?

00:30:22: Kriegen wir das hin?

00:30:27: Ich finde halt... Also natürlich erwartet man von der Firma nicht, dass sie jetzt irgendwie weiß ich nicht päpsicher ist als der Papst wie man so sagt.

00:30:36: Aber ich denke halt es gibt eigentlich gibt es.

00:30:39: also es gibt ja hat immer mal immer schon Firmen gegeben die wirklich sagen wir machen es so weil wir haben ich habe einen stolz in das Produkt was sich bilde also was ich baue und ich gehe damit im richtigen Gewissen auch dann daran.

00:30:54: Und mir ist es einfach persönlich wichtig dass das eben diese Sicherheit, also gerade für Kinder und Jugendliche die Sicherheit da ist.

00:31:00: Und das ist für mich ein bisschen unverständlich, wenn ich mir die ganze Industrie angucke, diese ganzen Apps, was dafür in Kokolores gemacht wird wie diese Sicherheitsvorkehrungen funktionieren, dass sich in jedem App als Mama mir da angucken muss, alle haben andere Symbole und dann funktioniert es überall anders, wie ich diese Alachen einstellen muss, dann funktioniert irgendwas nicht.

00:31:20: bei Apple kriege ich irgendwie so eine Telefonnummer, irgendwie drei, sieben, fünf, irgendetwas keine Ahnung will deinem Kind Texten weiß ich nicht, wer das ist.

00:31:28: Die könnten eine Kontaktkarte schicken, die könnten den Eltern das schicken.

00:31:31: also da gäbe es so viel bessere Möglichkeiten als dass was man kriegt.

00:31:34: Also sind so viele Sachen die einfach... also wo man merkt, es ist einfach... man geht... das ist so lieblos dran gegangen ohne technischen Verstand und das sind Firmen, die können... also was war's ich alles?

00:31:45: Die können jemand zum Mond schicken?

00:31:47: Was war's Ich alles?

00:31:48: irgendwie ja?

00:31:50: Leute können live gehen, egal wo sie sind.

00:31:53: Es gibt irgendwie AI-Systemen die mit uns irgendwelche Interhaltungen sprechen können und unsere Depressionen umgehen können.

00:32:00: irgendwie ja oder weniger.

00:32:01: vielleicht noch nicht aber diese simplen Sachen funktionieren nicht.

00:32:07: Und es ist viel simpler sowas zu bauen.

00:32:08: Es ist viel simpler eine vernünftige Contact Approval Pipeline zu bauen als sich mit einem Überliteratur zu unterhalten.

00:32:18: Ja, unverständlich.

00:32:26: Glaubst du denn das diese Unternehmen?

00:32:28: Ich bin immer so mit der Meinung an die Themen herangegangen, dass ich gedacht habe, die sind ja alle nicht angetreten um was Böses zu tun sondern die hatten vielleicht wirklich mal.

00:32:38: also sie wollten natürlich Geld verdienen aber sie wollten auch Menschen vernetzen Sie wollten Wissen verfügbar machen Sie wollten Meinungsbildung ermöglichen und es alle irgendwie ihre Meinung auch äußern können.

00:32:49: Woran glaubst du nicht, dass es so stark gekippt ist?

00:32:51: Dass man bei Meta dann vielleicht sein muss.

00:32:53: Sie haben vielleicht doch... Also sie nehmen zumindest einen Kaufböses zu tun!

00:32:58: Ja also ich glaube wir sind wirklich von der Ära von Tech Optimism in die Ära der Tech Delusion quasi abgerutscht.

00:33:05: So habe ich das kurz und knapp formulieren.

00:33:07: Also was ich damit meine ist halt... Also ich glaube diese positiven Dinge sind ja da.

00:33:14: Es gibt Austausch und so weiter aber es sind eben Entscheidungen getroffen wurden, die für die Produkt also für die Optimierung von der Verweildauer und eben vom Profit gemacht worden sind.

00:33:29: Die dann halt das Gute quasi was es gibt, eben halt dann eben nicht... Also dass eben dann stören ja?

00:33:37: Und das ist halt so wie die Algorithmen funktionieren und da liegt für mich so der Hase im Pfeffer.

00:33:46: Ja!

00:33:46: Es Es geht nicht darum, dass wir irgendwie Leute sagen, dass sie sich nicht politisch abgefahrenes reinziehen sollen.

00:33:59: Das können die ja auch so.

00:34:03: Aber das Problem ist, wenn man... Also erstens werden an Menschen Versuche gemacht in der akademischen Forschung.

00:34:13: Wenn wir einen Versuch machen mit Personen dann müssen wir das irgendwie genau aufschreiben.

00:34:18: Das gibt es zwar in Firmen auch, aber es hat einen ganz anderen Zweck infirmen.

00:34:21: Da müssen wir dafür sorgen dass ist das den Menschen die nicht zu Schaden kommen.

00:34:27: und wenn wir so mit dem Fiz experimentieren in diesen Firmen Ja, dann es gibt schon Sachen die wir nicht mehr machen können.

00:34:37: Das gab ja diese Feed-Experiments wo dann von Menschen die Launen quasi so manipuliert wurden und das hat ziemlich schlechte Zagzeilen gemacht.

00:34:46: Aber ist es trotzdem passiert?

00:34:47: Es ist ja schon mal interessant dass es überhaupt passiert ist!

00:34:50: Und er ist da nicht immer gedacht, sollten wir das vielleicht nicht machen?

00:34:54: Ist das vielleicht unethisch?

00:34:57: Oder zumindest die Stimme hat nicht gewonnen... Das ist schon mal eine Sache, das nehmen wir eigentlich so in Kauf.

00:35:05: Wenn wir diese Apps benutzen, stimmen wir eigentlich selbst versuchen zu.

00:35:11: Das Zweite ist, dass halt eben all diese subtilen Signale über uns verwendet werden und die werden alle so wirklich interpretiert als das willst du jetzt.

00:35:21: Also ein gutes Beispiel ist ich hatte neulich nur sterbende Mamas in meinem Feed.

00:35:25: Ja, und der Grund war ich hatte irgendwie einen Account gefunden.

00:35:29: Und da waren so Mädchen die haben sich ganz lieb um ihre Mama gekümmert, die krebskrank war... ...und es war ganz traurig aber es war auch irgendwie ziemlich interessant gemacht und so.

00:35:36: Naja, aber irgendwie hab' ich das gesehen und dann waren auf einmal mehr und mehr wir sterbende Haustiere und so weiter.

00:35:41: Einmal ganzer Feed war irgendwie so ein Hospiz ja?

00:35:44: Also und dann ist es ja so klar!

00:35:46: Ich kann natürlich in dieses Hamburger Menü geben und sage ich will das alles nicht sehen und so, aber denkst du ja auch wie was bin ich jetzt für den Mensch?

00:35:52: Bitte keine sterbenden Menschen, das macht mich ... Ja?

00:35:55: Versaubt mir grad die Laune.

00:35:56: Das geht ja auch nicht!

00:35:58: Natürlich macht man das dann trotzdem aber es ist schon so, wo man denkt, naja gut okay.

00:36:05: Aber es ist nichts was irgendwie mir etwas bringt.

00:36:07: ich kann den Leuten nicht helfen.

00:36:09: und also ein ganz gutes Beispiel.

00:36:12: Also das war's eben Emotion Cells Alles, was irgendwie überraschend ist.

00:36:20: Was mir Angst macht... ...was sich komisch an.

00:36:24: Also so, was ist das jetzt?

00:36:26: Ja!

00:36:26: Deswegen also weinende Frauen im Internet irgendwie wo man nicht weiß warum sie weinen funktioniert super ja.

00:36:33: Das wissen auch die Creators und Es gibt solche Sachen eben, also das und es gibt ganz viele Sachen wie du swibst ob du wo du bleibst.

00:36:41: Ob du das weiter guckst, ob du anhälzt, ob Du das App verlässt in... Also all diese Dinge die du machst, es gibt so, so viele Signale die man sich gar nicht vorstellen kann.

00:36:51: Also klickst du auf den Et oder nicht?

00:36:54: Also kommentierst du Likes so dass ist klar.

00:36:55: aber dann viel dieser Signale sind eben ganz subtil und die werden halt interpretiert um dir mehr dinge zu zeigen Und es geht halt darum, dass du so lange wie möglich da bleibst.

00:37:07: Ja und viele dieser Signale sind halt eben falsch.

00:37:11: also wenn ich... Also die heißt nicht das was mehr sehen willst.

00:37:14: Wenn ich dir zeigen würde das und das und Das denke jetzt willst du mehr sehen weil du das gemacht hast würdest du bei ganz vielen Sachen sagen hey das will ich überhaupt nicht sehen oder bitte nicht das ja aber ne?

00:37:22: Aber es ist halt so ein blant Instrument und Ich glaube wir müssen eigentlich dahin gehen dass wir sagen Es ist nur in Ordnung Signale zu... Erstmal erstens mal müssen Ganz klar sagen, Experimente müssen einen External-Review haben.

00:37:40: Dass wir nicht irgendwie willkürlich Aromaxperimentiert bekommen an irgendwelchen Leuten und B es muss ganz klar gesagt werden Es gibt eben explizite Signale wie zum Beispiel ich like was oder ich kommentiere oder sowas Bei all means, ja.

00:37:56: Den kannst du benutzen?

00:37:57: Okay!

00:37:58: Ja aber das ist ziemlich sicher dass der Mensch dann wirklich das haben will.

00:38:02: Aber also ganz viele dieser subtilen Dinge die eben so alles Mögliche heißen könnten sollten nicht so interpretiert werden.

00:38:07: und da geht es dann und ich glaube dann würden auch Feeds irgendwann anders aussehen und dann auch dieses Endless Scrolls und also die Notifications auch... Es gibt noch viele andere Dinge.

00:38:18: aber ich glaube gerade wenn es um dieses Design geht Man muss sich mal vorstellen, wie man da so digital ausgezogen wird und wie halt diese ganz subtilen Signale eben quasi benutzt werden um dafür zu sorgen dass wir da bleiben.

00:38:33: Das ist ja so.

00:38:35: clickbait funktioniert hier auch so, dass es diese Videos gibt wo man nicht wirklich weiß worum's geht aber man guckt trotzdem weiter irgendwie.

00:38:45: Wenn man sich das mal anguckt sind die Mechanismen und ich glaube darum gehts ein bisschen unethisch finde ich.

00:38:54: Jetzt hast du ihm gesagt, dass ihr da sozusagen in eurer freien Forschung beschnitten wurdet eigentlich eher als Opposition handiert habt.

00:39:01: Dann hast du gesagt, also die Unternehmen versuchen sich irgendwie am Ende da durchzuwuseln und das irgendwie auf ihre Verantwortung einfach durch zu ziehen.

00:39:13: Jetzt gibt es aber ja beim META das Oversight Board.

00:39:15: Würdest du sagen dass es eigentlich eine sehr sinnhafte Institution ist oder dass das der nächste Punkt ist bei dem wir uns daran gewöhnen können, dass es kein Funding mehr bekommt?

00:39:25: Ja!

00:39:25: Also das Prinzip des Oversights Boards ist eigentlich ne gute Idee weil es muss von außerhalb eben quasi den Einblick geben und so weiter.

00:39:40: Aber das Problem ist halt, dass ... So ein Obersight-Bord halt wirklich auch independent sein muss und also unabhängig sein muss.

00:39:48: Und das ist halt so nicht so gewesen, ja?

00:39:50: Also man muss halt gucken... Ich bin da gerade dabei bei meiner eigenen Nonprofit, dass ich habe mir ganz viel Gedanken, aber ich hab eine ethische Forschungsprotokolle zum Beispiel für meine Forschung die ich vorhabe zu machen und auch schon mache wo eben ganz genau drin steht.

00:40:04: Ich nehme keinen Funding von Unternehmen, die mich auswerte z. B., und ich glaube, das werden dann finanzielle Interessen.

00:40:12: dabei sind es in der ganzen Jugendschutzforschung eigentlich auch ein Problem leider, dass wenn so eben Firmen oder auch wenn NGOs oder was ist das?

00:40:22: Wenn die bewährte von diesen Firmen dann das Geld wieder von der Firma kriegen.

00:40:26: Dann sind sie nicht mehr unbedingt so einfach unabhängig.

00:40:30: und also das ist ein ganz großes Problem ja.

00:40:32: Und wenn dann die Firma sagen kann ja die und die Frage wollen wir nicht, dass ihr die stellt oder so Ja und das ist halt so... Also dann wird's.. Es ist halt eben nicht mehr unabhängig.

00:40:42: Das muss man ganz genau regeln und da müssen sich auch ganz viele Leute noch Gedanken machen, wie man das eben so am besten aufzieht.

00:40:47: Also ich glaube dass Prinzip die Idee ist sehr gut aber eben es muss wirklich unabhängig sein und das Funding dafür sollte eigentlich besser nicht von den Firmen kommen.

00:40:58: Und dann geht's auch um Datenzugang, ja?

00:41:00: Also wir haben das jetzt auch gesehen mit AI, mit diesen Breaches die dann openAI und dann gab's ja diese Forschung bei Meader und so weiter... Die konnten also ein bisschen Zugang kriegen, aber nicht ganz!

00:41:14: Das ist natürlich irgendwie auch Pille-Palle weil Also man muss wirklich den Datenzugang haben, weil sonst hat man so halb im Dunkeln und dann wenn man mit verbundenen Augen an ihm gucken soll wie sicher das jetzt ist.

00:41:31: Das hilft halt nicht.

00:41:32: Es muss ja wirklich der Zugang geregelt werden auch gesetzlich dass eben die Daten offen gelegt werden müssen bestimmte Daten natürlich auch wieder Privacy first Und auch das Finanzsystem dementsprechend aufgebaut sein, damit es nicht dann diese Conflicts of Interest immer gibt.

00:41:53: Ich habe noch zwei letzte Fragen zum Schluss.

00:41:55: Der eine ist warum war Meta so naiv und hatte ich ohne NDA rausgeschmissen?

00:42:00: Also weil das ja am Ende jetzt dazu führt dass du eben über solche Dinge sprechen kannst.

00:42:07: Mir wurde schon irgendwie ein Agree mit Angeboten am Ende, also ich wollte das halt nicht unterschreiben.

00:42:18: Ich hab keine Ahnung, ich kann nur spekulieren.

00:42:20: Ich weiß also dass ich eigentlich jemand bin ja auch nicht... Also ich war schon als ich dort war natürlich auch.. Also ich glaube nicht das ich jetzt wie jemand gewirkt habe der jetzt irgendwie nach außen geht oder so und hab das auch eigentlich nie so vorgehabt, aber es war halt dann so als ich diese Verfahren gesehen habe.

00:42:41: Als ich draußen war und nicht mehr da war und dann gesehen habe was für Sachen von der Führungsriegel kamen... Also ich konnte das in meinem Gewissen einfach nicht mehr vereinbaren.

00:42:54: Ich hab mir gedacht, man denkt daran auch an einen Zivilcourage, wenn man aufguckt ist als Deutscher, irgendwie würde man etwas sagen oder was?

00:43:01: Das ist ja viel bequemer nichts zu sagen.

00:43:03: Viel bequemmer sich einen anderen Job zuholen, wo man viel Geld verdient und immer noch Forscher ist.

00:43:08: Und so weiter in einer Firma.

00:43:10: Es ist viel bequemer einfach sein Leben zu führen und zu sagen okay das werden schon... Das wird sich richten.

00:43:15: Da sind so viele die sich dafür einsetzen warum ich.

00:43:19: Man hat schon... Ich glaube halt vielleicht dass ich nicht der Kandidat war, der irgendwo man gedacht hätte.

00:43:28: Irgendwann

00:43:28: schuldet er,

00:43:29: wo ich

00:43:29: bin!

00:43:34: Und meine letzte Frage ist einfach nur, wie viel Zeit verbringst du selber noch so auf den Meta-Plattformen?

00:43:39: Hast Du noch ein Instagram Account?

00:43:42: Ja ich habe einen Account.

00:43:44: Ich bin sehr vorsichtig!

00:43:45: Also ich hab auf jeden Fall so ein Gefühl im Bauch immer und also ich bin nicht mehr so gerne drauf leider.

00:43:53: Das ist für mich auch bisschen schade.

00:43:54: alles weil als ich da angefangen habe... hatte ich ein positives Gefühl und dachte, die wollen wirklich das Richtige tun.

00:44:04: Das hat immer mehr abgeblättert.

00:44:09: Ich habe da sieben Jahre meines Lebens verbracht.

00:44:11: Ich hab viele Freunde dort gefunden.

00:44:13: Also auch mit Herzblut dran gearbeitet eine ganz lange Zeit.

00:44:17: Es gibt dann so ne Phase wo hin und her ist es jetzt.

00:44:21: Und also ... Irgendwie so was ganz, also Schmerz.

00:44:28: Also für mich und die Welt!

00:44:29: Und für die Jugendlichen... Aber es gibt natürlich auch nicht viele Alternativen.

00:44:33: Diese Videos sind auch schon kompellig.

00:44:35: Da hab ich schon mal hier und da mal auf TikTok und so.

00:44:37: Ich versuch's halt alles zu limitieren weil ich weiß wie das alles funktioniert.

00:44:44: Ich möchte auch ein gutes Beispiel für meine eigene Kinder ein bisschen dastehen.

00:44:50: Genau ja aber ich versuch sie mit zu limitiert und ich glaube... Also auf jeden Fall, okay war kein AI und so.

00:45:03: Diese AI-Apps da bin ich auch besonders vorsichtig weil ich glaube das ist noch wird nochmal jetzt schwieriger und also es sind noch mehr Probleme, weil das ja viel intimer ist und man diese ganze Technologie... Ich versuche wirklich immer die Ethischen.

00:45:18: Also ich versuche so viel wie möglich dann also klar den Thropic zu benutzen und vergiss jetzt natürlich auch wieder schlechte Nachrichten, aber ich versuch schon da hin meine eigene Benutzung dahin zu schieben wo ich eben ein bisschen mehr Vertrauen habe.

00:45:36: Wer wüsste es besser als du?

00:45:37: Wie man sich dort verhalten muss.

00:45:39: Vielen lieben Dank liebe Anneke.

00:45:40: Das war sehr, sehr interessant.

00:45:42: Sehr, sehr spannend und ich würde mich freuen wenn ich dich noch mal in unseren Podcast einladen darf und wie man gemeinsam über so die Tagesaktuellen Nachrichten drauf schauen.

00:45:50: Ja, jedenfalls!

00:45:52: Ich finde es alles super spannend und ja, war echt nett irgendwie mit dir zu unterhalten und danke für die Gelegenheit.