Sexualidad

¿Cómo desarrolla Tinder las funciones que te mantienen a salvo?

¿Quién decide lo que necesitamos para mantenernos seguros en línea? ¿Y cómo saben de qué características nos beneficiaríamos?

En Tinder, una persona que desempeña un papel integral en las características de seguridad de la aplicación de citas es Rory Kozoll, vicepresidente senior de integridad de productos de Tinder. Kozoll lidera el equipo que desarrolla herramientas y recursos dentro de la aplicación cuyo objetivo es mantener las interacciones de los usuarios respetuosas y seguras.

Tinder ha lanzado una serie de nuevas actualizaciones y características de seguridad, sobre todo una función de informe de pulsación prolongada, que le permite tocar y mantener presionados los mensajes de chat para iniciar directamente el proceso de informe. Esto significa que ahora es más fácil marcar el acoso, la incitación al odio o cualquier otro texto ofensivo que infrinja las normas de la aplicación. Principios de la Comunidad(Se abre en una nueva pestaña).

VER TAMBIÉN:

Tinder te permitirá esconderte de las personas a menos que te gusten primero

El 72 por ciento de los jóvenes de 18 a 25 años están tan preocupados por su seguridad emocional como por su seguridad física, según una encuesta reciente realizada por Opinium en nombre de Tinder. La encuesta, que analiza ampliamente las interacciones en línea, también encontró que el 40 por ciento de los jóvenes de 18 a 25 años han presenciado discursos de odio en línea, y el 30 por ciento de las personas admiten haber enviado mensajes dañinos en línea de los que luego se arrepienten. Además de esto, Tinder está ampliando su oferta ‘¿Esto te molesta?’ y ‘¿Estás seguro?’ características para ampliar su categorización de discurso de odio, acoso y explotación sexual.

Para las mujeres y los géneros marginados, estar en aplicaciones de citas, redes sociales o simplemente existir en línea en general, puede ir de la mano con el acoso sexual, recibir mensajes sexuales no deseados y no consentidos, además de experimentar violaciones como el cyberflashing.

¿Cómo sabe Tinder qué características de seguridad necesitan los usuarios?

Kozoll habló con Mashable sobre cómo se desarrollan las herramientas de seguridad de Tinder y las cuatro fuentes principales de información que alimentan el proceso.

«Nuestros miembros nos dirán que algo les ha molestado y eso nos dará la señal de que debemos desempacar y tratar de entender cuál puede ser la ofensa y cómo podemos ser parte de la disminución de esa ofensa», dice. «La segunda fuente son las cosas que podemos ver muy claramente en nuestros datos. Y la tercera es que trabajamos con muchos socios externos, tanto en el espacio de seguridad de género como en el espacio LGBTQIA y otros grupos subrepresentados para informarnos».

La cuarta fuente es «un poco más arte que ciencia», dice Kozoll, refiriéndose a la «intuición del producto». Los propios empleados de Tinder están usando la aplicación e informarán y discutirán sus propias experiencias para informar lo que creen que debe cambiar en la plataforma.

‘¿Esto te molesta?’ de Tinder función provino de una experiencia de la vida real.

En el caso de ‘¿Esto te molesta?’ de Tinder. característica, un incidente de la vida real llevó a que esta herramienta se introdujera en la aplicación. La herramienta utiliza el aprendizaje automático para marcar mensajes potencialmente ofensivos, lo que hace que aparezca un mensaje automático para los destinatarios del mensaje cuando un lenguaje dañino entra en una conversación. Con este aviso, los usuarios tienen la opción instantánea de informar el mal comportamiento si así lo desean.

¿Quieres más historias de sexo y citas? en tu bandeja de entrada? Regístrese para recibir los boletines de noticias y ofertas de Mashable hoy.

Antes del lanzamiento de esta función, Kozoll y su equipo habían estado investigando categorías de mensajes ofensivos. Cuando se trata de lo que Kozoll describe como «hablar más directo» (léase: mensajes sexualmente explícitos), el factor clave a considerar es el consentimiento.

«La gente puede abrir la puerta a, digamos, una conversación más directa. Queremos asegurarnos de que siempre nos atengamos a la línea entre mantener a todos seguros y asegurarnos de que todos estén cómodos, y también no imponernos a nosotros mismos y nuestros propios valores a nuestros miembros». ,» él dice.

Kozoll dice que él y su equipo están constantemente observando ejemplos de la vida real de los problemas que las personas pueden encontrar en la aplicación.

«Salí a cenar con mi esposa, caminando hacia un restaurante en Santa Mónica. Este automóvil pasa con estos jóvenes y uno de ellos se asoma por una ventana y grita. Cuando me di la vuelta, pude ver que había una mujer joven. sola caminando detrás de nosotros. Podías verla visiblemente incómoda con los silbidos de los chicos», explica. «Seguían conduciendo y, por instinto, simplemente me di la vuelta y dije: ‘Oye, ¿estás bien? ¿Quieres caminar con nosotros?’ Resultó que estaba caminando hacia el mismo restaurante». En ese momento, la esposa de Kozoll le dijo: «No sabes lo raro que es que alguien simplemente pregunte ‘¿estás bien?’

«Esa fue la semilla: solo porque no sabemos con certeza si estos mensajes son problemáticos para esta persona, nunca está de más preguntarles si están bien. Y ahí es donde ‘¿Esto te molesta?’ vino», agrega.

¿Qué papel real quiere jugar Tinder aquí?

Cuando se trata de los desafíos que enfrenta el equipo de Tinder al considerar las necesidades de seguridad, Kozoll dice que se trata de «descubrir dónde está la línea correcta entre asegurarse de que todos estén cómodos, pero también darles la libertad de expresarse y tener el tipo de conversación que quieren». tener.»

«Nos vemos a nosotros mismos como los anfitriones de una fiesta y hemos invitado a todos estos invitados. Esperamos que la gente se lleve bien y que conozcan a alguien emocionante y nuevo. No estamos allí para decirle a la gente cómo hablar». el uno al otro. Pero estamos allí si alguien mira al otro lado de la habitación y nos mira para decir ‘oye, estoy muy incómodo aquí’, tenemos que intervenir y ayudar a resolver la situación. A veces eso significa pedirle a alguien que salir del partido, y ese es el papel que tratamos de jugar», dice.

VER TAMBIÉN:

Las mejores aplicaciones y sitios de citas en febrero de 2023

Entonces, ¿por qué Tinder ha ampliado el alcance en lo que respecta al discurso de odio? Kozoll dice que tiene que ver con las formas en que el lenguaje evoluciona en la sociedad.

«El idioma evoluciona constantemente, los emoji evolucionan constantemente, las personas se vuelven cada vez más creativas, no intentan evadir nada de lo que hacemos. Pero el idioma cambia todo el tiempo, por lo que tenemos que adaptarnos. muy rápido a eso», dice.

«A medida que desarrollamos nuestra comprensión, actualizaremos constantemente estos modelos», agrega Kozoll. «Este es un flujo de trabajo para siempre, la evolución de estos modelos de aprendizaje automático y listas de palabras clave para mejorarlos en la identificación del contexto en el que aparecen estas palabras y las nuevas palabras que aparecen en el léxico también».

Lea más sobre cómo mantenerse seguro en el mundo de las citas en línea:

Publicaciones relacionadas

Botón volver arriba