Mes del orgullo
El recurso detecta los mensajes potencialmente ofensivos y alerta al emisor con un «¿Estás seguro?», como acción preventiva. Te contamos más en esta nota.
La app de citas Tinder anunció una nueva herramienta antiacoso orientada a reducir el envío de mensajes potencialmente ofensivos. El feature detecta el lenguaje inapropiado y pregunta al emisor si está seguro de que desea enviar el mensaje, de modo que funciona como un recurso preventivo.
En los últimos años, la plataforma de ligue ha tratado de mejorar sus características de seguridad, y esta nueva herramienta va en esa vía.
La aplicación, como muchas otras, ha sido una herramienta utilizada por delincuentes y abusadores desde sus inicios, y debido a su función principal, es muy proclive al uso por parte de acosadores y trolls.
Para frenar el problema, solo en el último año Tinder ha implementado varias funciones de reducción de daños: su integración de «botón de pánico» con la aplicación de seguridad Noonlight; verificaciones de antecedentes; y la IA impulsada para «¿Esto te molesta?», mensaje que aparece cuando un usuario recibe un mensaje potencialmente dañino.
Ahora, la popular aplicación está introduciendo esta nueva característica que tiene como novedad que no se orienta en el control de daños sino que se adelanta al envío del mensaje. «¿Estás seguro?» es una advertencia en tiempo real que, como «Does This Bother You?», utiliza IA para detectar lenguaje inapropiado.
El aprendizaje automático se basó en lo que los miembros informaron en el pasado y, según Tinder, evolucionará y mejorará con el tiempo. Así, cuando un usuario escribe un mensaje que señala la IA, aparece la interrogante.
La app indica entonces que lo que se escribió puede ofender a su match y les pide que hagan una pausa antes de enviar. En las primeras pruebas, la herramienta redujo el lenguaje dañino en los mensajes enviados en más del 10 por ciento, reportó la revista Mashable.
