Ciudad de México, 28 de octubre de 2023.-
Cecilie Fjellhø conoció a Simon Leviev en Tinder, un hombre atractivo, según los cánones occidentales, y con suficientes recursos en el banco para considerarse un buen partido. En redes sociales solo exhibía lujo, ¿qué podría salir mal? Nada, solo una estafa millonaria.
El estafador de Tinder, documental publicado en Netflix en febrero de 2022, reveló cómo Leviev, más bien Shimon Heyada Hayut, su nombre verdadero, amasó 10 millones de dólares al engañar a mujeres como Fjellhø, haciéndose pasar por un ejecutivo exitoso.
Este caso es uno de los más reconocidos alrededor de las apps de citas, que expandieron al negocio de encontrar amigos, pero esta problemática es cotidiana en el ecosistema Tinder, Bumble y Grindr, por mencionar las más populares.
En 2021, la gente reportó pérdidas por un monto récord de 547 mdd con estafas de romances en Estados Unidos, según datos de la Comisión Federal de Comercio.
Con la inclusión de la inteligencia artificial (IA) en el juego, la cosa pinta para peor. LoveGPT, nombre acuñado por la empresa de ciberseguridad Avast, es una herramienta diseñada para engañar a personas en este tipo de apps.
LoveGPT crea cuentas falsas, interactúa con las víctimas, elude captcha (método para comprobar que eres humano), vuelve anónimos a los usuarios usando proxies y herramientas del navegador. Con la inclusión de ChatGPT, en marzo de este año, genera textos más creíbles y ‘humanos’ para vaciar las carteras de sus víctimas.
La investigación de Avast revela que la herramienta no es nueva y lleva 10 años en activo. Su origen es vietnamita y ha sido usada en Ashley Madison, Badoo, Bumble, Craigslist, DuyenSo, Facebook Citas, likeyou.vn, MeetMe, OkCupid, Plenty of Fish (POF), Tagged, Tinder y Zoosk.
La batalla de la inteligencia artificial
Durante la pandemia de Covid-19, la sociedad vivió aislada y cuando se abrieron los primeros espacios, ávidos de conexión humana, llenaron plazas, parques y cines. Conscientes de esta oportunidad, apps de citas como Bumble se diversificaron.
Según una encuesta de 2023, encargada por Bumble, el 24 por ciento de los mexicanos considera que les resulta difícil hacer amigos y un 38 por ciento dijo no saber dónde conocer personas con los mismos intereses.
Con esto en mente, Bumble for Friends, brazo para hacer amigos de la aplicación de citas, arribó el 21 de septiembre pasado a México con la idea de que las personas hagan amistades sin el componente romántico.
Cabe resaltar, que a diferencia del servicio estándar de Bumble, cualquier persona puede contactar a otra para una posible amistad, gracias a los algoritmos y filtrado de intereses en común de los usuarios.
Tomando en cuenta el panorama en este tipo de apps que emparejan de acuerdo con algoritmos, preguntamos a Bumble cómo piensa proteger a los mexicanos del mal uso de la IA.
Javier Tuiran, director de comunicación para América Latina de Bumble, explicó que combatirán los perfiles falsos creados con IA mediante la verificación de fotos.
Esta herramienta usa IA y un equipo de moderadores humanos para corroborar que las personas son quienes dicen ser en sus fotos, incluso aunque estén fabricadas con IA. Un probable perfil falso de un auténtico se distingue por una marca azul en su perfil.
Tuiran pone en manos de usuarios Bloquear y Denunciar, función que facilita la denuncia de aquellos perfiles que incumplan directrices de la comunidad en cualquier momento de su interacción dentro de la aplicación.
“Si se encuentran con un perfil sospechoso o falso, les animamos a que utilicen la función para asegurarse de que el problema se canalice, y que nuestro equipo lo revise y tome las medidas oportunas”, afirmó Tuiran.
El director presume que Bumble usa aprendizaje automático para mejorar su enfoque en la seguridad de los miembros y cuenta con un sistema que prioriza automáticamente los informes de seguridad más graves y pretende reducir el tiempo de respuesta.
Esta IA fue desarrollada internamente por el Colectivo de Confianza y Seguridad de Bumble, diseñado también para combatir los crecientes problemas de spam, estafas y cuentas falsas en sus plataformas.
“El modelo introduce un enfoque rápido y fiable basado en el aprendizaje automático para evaluar la autenticidad de las conexiones en nuestra plataforma. Esta tecnología automatizada y basada en IA se utiliza junto con un apoyo humano especializado para dar prioridad a una comunidad segura y empoderada”, sostuvo el directivo.
Sobre el sesgo de emparejamiento, en el que los algoritmos solo recomiendan perfiles de personas con un solo color de piel o tipos de cuerpo, Tuiran expresó que Bumble ofrece la experiencia de usuario más inclusiva posible.
Bumble se asocia con líderes de opinión profesionales dentro de estos espacios y colabora con miembros de comunidades infrarrepresentadas para asegurar una experiencia acorde a sus necesidades.
Además, para cuidar a las personas de ser aisladas por los algoritmos de la IA, Bumble es uno de los miembros fundadores de Partnership on AI (PAI), centrada en desarrollo, creación e intercambios éticos y responsables de IA que pudieran afectar a mujeres y personas marginadas.
“Vemos más oportunidades para integrar aún más la IA en nuestro viaje de usuario, ya que esto es sólo la punta del iceberg en el uso de la IA para mejorar nuestra selección y la calidad de las conexiones que hacemos”, finalizó Tuiran.
Texto y foto: Agencia Reforma
