Bumble ha anunciado hoy el lanzamiento de una innovadora función basada en inteligencia artificial destinada a detectar spam, estafas y perfiles falsos. Esta nueva herramienta, denominada Deception Detector, tiene como objetivo abordar el contenido malicioso antes de que los usuarios de Bumble se vean afectados por él.
Durante las pruebas, Bumble observó que la herramienta tenía la capacidad de bloquear automáticamente el 95% de las cuentas identificadas como spam o estafas. En los primeros dos meses de pruebas, Bumble logró reducir en un 45% las denuncias de spam, estafas y cuentas falsas. Deception Detector opera en colaboración con el equipo de moderación humano de Bumble.
La introducción de la nueva función se produce después de que una investigación interna de Bumble revelara que los perfiles falsos y el riesgo de estafas son las principales inquietudes de los usuarios al buscar relaciones, según la empresa. Además, el estudio señaló que el 46% de las mujeres experimentan ansiedad respecto a la autenticidad de sus parejas en línea en las aplicaciones de citas.
«Bumble Inc. fue establecida con la meta de forjar relaciones equitativas y potenciar a las mujeres para que tomen la iniciativa, y Deception Detector es nuestra más reciente innovación como parte de nuestro compromiso constante con nuestra comunidad, buscando asegurar que las conexiones establecidas en nuestras aplicaciones sean auténticas», expresó Lidiane Jones, CEO de Bumble, en una declaración. «Con un enfoque especial en la experiencia de las mujeres en línea, reconocemos que en la era de la inteligencia artificial, la confianza es más esencial que nunca».
El año pasado, la Comisión Federal de Comercio estadounidense (FTC) informó que las estafas románticas generaron pérdidas por un total de $1.3 mil millones en 2022, con una pérdida media reportada de $4,400 por víctima. El informe señaló que, aunque los estafadores románticos a menudo emplean aplicaciones de citas para sus ataques, es más común que las personas sean blanco de ataques a través de mensajes directos en plataformas de redes sociales. Por ejemplo, el 40% de las personas que sufrieron pérdidas financieras debido a estafas románticas indicaron que el contacto inicial se produjo en redes sociales, mientras que el 19% mencionó que comenzó en un sitio web o aplicación.
Esta nueva herramienta es la más reciente función de inteligencia artificial de Bumble diseñada para mejorar la seguridad de la aplicación. En 2019, Bumble introdujo la función «Private Detector», que automáticamente difumina imágenes de desnudos y las etiqueta como tal en los chats, permitiendo a los usuarios decidir si visualizar la imagen o denunciar al usuario.
Bumble también está integrando la inteligencia artificial en Bumble For Friends, la aplicación dedicada de la compañía para encontrar amigos. Recientemente, la aplicación lanzó sugerencias para romper el hielo basadas en IA, ayudando a los usuarios a redactar y enviar el primer mensaje basándose en el perfil de la otra persona. Aunque los usuarios pueden modificar la pregunta o solicitar otra sugerencia, solo pueden utilizar un rompehielos generado por IA en el chat.