Wie entwickelt Tinder die Funktionen, die Sie schützen?

Wer entscheidet, was wir brauchen, um online sicher zu bleiben? Und woher wissen sie, von welchen Funktionen wir profitieren würden?

Eine Person, die bei Tinder eine wesentliche Rolle bei den Sicherheitsfunktionen der Dating-App spielt, ist Rory Kozoll, Tinders Senior Vice President of Product Integrity. Kozoll leitet das Team, das In-App-Tools und -Ressourcen entwickelt, die darauf abzielen, die Interaktionen der Benutzer respektvoll und sicher zu gestalten.

Tinder hat eine Reihe neuer Sicherheitsupdates und -funktionen eingeführt, insbesondere eine Meldefunktion für langes Drücken, mit der Sie Chatnachrichten antippen und halten können, um den Meldevorgang direkt zu starten. Das bedeutet, dass es jetzt einfacher ist, Belästigungen, Hassreden oder andere beleidigende Texte zu melden, die gegen die Community-Richtlinien der App verstoßen(Öffnet in einem neuen Tab).

Laut einer kürzlich von Opinium im Auftrag von Tinder durchgeführten Umfrage sind 72 Prozent der 18- bis 25-Jährigen um ihre emotionale Sicherheit genauso besorgt wie um ihre körperliche Sicherheit. Die Umfrage, die sich umfassend mit Online-Interaktionen befasst, ergab auch, dass 40 Prozent der 18- bis 25-Jährigen Hassreden im Internet gesehen haben und 30 Prozent der Menschen zugeben, schädliche Nachrichten online gesendet zu haben, die sie später bereuen. Darüber hinaus erweitert Tinder sein bestehendes „Stört dich das?“ und ‘Sind Sie sicher?’ Merkmale, um die Kategorisierung von Hassreden, Belästigung und sexueller Ausbeutung zu erweitern.

Für Frauen und marginalisierte Geschlechter kann die Anwesenheit in Dating-Apps, sozialen Medien oder einfach nur online im Allgemeinen mit sexueller Belästigung einhergehen, nicht einvernehmliche, unerwünschte sexuelle Nachrichten erhalten und zusätzlich zu Verstößen wie Cyberflashing führen.

Woher weiß Tinder, welche Sicherheitsfunktionen Benutzer benötigen?

Kozoll sprach mit germanic darüber, wie die Sicherheitstools von Tinder entwickelt werden und welche vier Hauptinformationsquellen in den Prozess einfließen.

„Unsere Mitglieder werden uns sagen, dass sie etwas beunruhigt hat, und das wird uns das Signal geben, dass wir auspacken und versuchen müssen, zu verstehen, was das Vergehen sein könnte und wie wir dazu beitragen können, dieses Vergehen zu verringern“, sagt er. „Die zweite Quelle sind die Dinge, die wir sehr deutlich in unseren Daten sehen können. Und die dritte ist, dass wir mit vielen externen Partnern zusammenarbeiten, sowohl im Bereich der Geschlechtersicherheit als auch im LGBTQIA-Bereich und anderen unterrepräsentierten Gruppen, um uns zu informieren.“

Die vierte Quelle sei „ein bisschen mehr Kunst als Wissenschaft“, sagt Kozoll und meint damit die „Produktintuition“. Die eigenen Mitarbeiter von Tinder verwenden die App und werden berichten und ihre eigenen Erfahrungen diskutieren, um mitzuteilen, was ihrer Meinung nach auf der Plattform geändert werden muss.

Tinders „Stört dich das?“ Feature stammt aus einer realen Erfahrung.

Im Fall von Tinders „Does This Stört dich?“ Funktion führte ein realer Vorfall dazu, dass dieses Tool in der App eingeführt wurde. Das Tool verwendet maschinelles Lernen, um potenziell anstößige Nachrichten zu kennzeichnen, und veranlasst eine automatische Nachricht, für Nachrichtenempfänger angezeigt zu werden, wenn schädliche Sprache in eine Konversation eintritt. Mit dieser Aufforderung haben Benutzer die sofortige Möglichkeit, das schlechte Verhalten zu melden, wenn sie dies wünschen.

Willst du mehr Sex- und Dating-Geschichten? in deinem Posteingang? Melden Sie sich für die Top Stories and Deals-Newsletter von germanic an Heute.

Vor der Veröffentlichung dieser Funktion hatten Kozoll und sein Team Kategorien anstößiger Nachrichten untersucht. Wenn es um das geht, was Kozoll als „mehr Vorwärtsgespräche“ beschreibt (sprich: sexuell explizite Nachrichten), ist der Schlüsselfaktor, den es zu berücksichtigen gilt, die Zustimmung.

„Die Leute können die Tür öffnen, sagen wir, mehr Vorwärtsgespräche. Wir wollen sicherstellen, dass wir immer die Grenze zwischen der Sicherheit aller und dem Wohlbefinden aller einhalten und uns und unsere eigenen Werte unseren Mitgliedern nicht aufzwingen ,” er sagt.

Kozoll sagt, dass er und sein Team ständig reale Beispiele für Probleme beobachten, auf die Menschen in der App stoßen können.

„Ich war mit meiner Frau zum Abendessen und ging zu Fuß zu einem Restaurant in Santa Monica. Dieses Auto fährt mit diesen jungen Typen vorbei und einer von ihnen lehnt sich aus dem Fenster und ruft. Als ich mich umdrehte, konnte ich sehen, dass da eine junge Frau war von ihr selbst, die hinter uns ging. Man konnte nur sehen, dass sie sich sichtlich unwohl fühlte, wenn die Jungs herumpfiffen”, erklärt er. “Sie fuhren weiter und aus Instinkt drehte ich mich einfach um und sagte: ‘Hey, geht es dir gut? Willst du mit uns gehen?’ Es stellte sich heraus, dass sie zum selben Restaurant ging.” In diesem Moment sagte Kozolls Frau zu ihm: „Du weißt nicht, wie selten es vorkommt, dass jemand wirklich nur fragt: ‚Geht es dir gut?’

„Das war der Keim – nur weil wir nicht sicher wissen, ob diese Nachrichten für diese Person problematisch sind, schadet es nie, sie einfach zu fragen, ob es ihr gut geht. stammt“, fügt er hinzu.

Welche eigentliche Rolle will Tinder hier spielen?

Wenn es um die Herausforderungen geht, vor denen das Team von Tinder bei der Berücksichtigung von Sicherheitsanforderungen steht, sagt Kozoll, geht es darum, „herauszufinden, wo die richtige Grenze liegt zwischen sicherzustellen, dass sich alle wohlfühlen, ihnen aber auch die Freiheit zu geben, sich auszudrücken und die Art von Konversation zu führen, die sie wollen haben.”

„Wir sehen uns als Gastgeber einer Party und haben all diese Gäste eingeladen. Wir hoffen, dass sich die Leute gut verstehen und jemanden Aufregendes und Neues kennenlernen. Wir sind nicht da, um den Leuten zu sagen, wie sie reden sollen Aber wir sind da, wenn jemand durch den Raum schaut und uns den Blick zuwirft, um zu sagen: „Hey, ich fühle mich hier wirklich unwohl.“ Wir müssen eingreifen und helfen, die Situation zu lösen. Manchmal bedeutet das, jemanden darum zu bitten die Partei verlassen, und das ist die Rolle, die wir versuchen zu spielen”, sagt er.

Also, warum hat Tinder den Spielraum erweitert, wenn es um Hassreden geht? Kozoll sagt, es habe damit zu tun, wie sich Sprache in der Gesellschaft entwickelt.

„Die Sprache entwickelt sich ständig weiter, Emojis entwickeln sich ständig weiter, die Menschen werden immer kreativer, sie versuchen nicht, sich dem zu entziehen, was wir tun. Aber nur die Sprache ändert sich ständig, und deshalb müssen wir uns anpassen sehr schnell dazu”, sagt er.

„Während wir unser Verständnis weiterentwickeln, werden wir diese Modelle ständig aktualisieren“, fügt Kozoll hinzu. „Dies ist ein ewiger Arbeitsstrom, bei dem diese maschinellen Lernmodelle und Schlüsselwortlisten weiterentwickelt werden, damit sie den Kontext, in dem diese Wörter auftauchen, und die neuen Wörter, die auch im Lexikon auftauchen, besser identifizieren können.“

Lesen Sie mehr darüber, wie Sie in der Online-Dating-Welt sicher bleiben: