Meta advirtió el miércoles a los usuarios de Internet que tengan cuidado con los conocidos en línea que prometen romance pero piden dinero, ya que los estafadores usan falsificaciones profundas para aprovecharse de aquellos que buscan el amor.
“Esta es una nueva herramienta en el conjunto de herramientas de los estafadores”, dijo el director de políticas de disrupción de amenazas globales de Meta, David Agranovich, a los periodistas durante una reunión informativa.
“Estos estafadores evolucionan constantemente; nosotros tenemos que evolucionar para mantener las cosas bien”.
Los sistemas de detección de la familia de aplicaciones de Meta, que incluyen Instagram y WhatsApp, se basan en gran medida en patrones de comportamiento y señales técnicas en lugar de imágenes, lo que significa que espían la actividad de los estafadores a pesar del engaño de la IA, según Agranovich.
“Hace que nuestra detección y aplicación de la ley sean algo más resistentes a la IA generativa”, dijo Agranovich.
Citó el ejemplo de un plan recientemente desbaratado que aparentemente se originó en Camboya y que tenía como blanco a personas en los idiomas chino y japonés.
Los investigadores de OpenAI determinaron que el “compuesto fraudulento” parecía estar utilizando las herramientas de la compañía de inteligencia artificial de San Francisco para generar y traducir contenido, según Meta.
La tecnología de inteligencia artificial generativa existe desde hace más de un año, pero en los últimos meses su uso por parte de los estafadores se ha fortalecido, dijo durante la sesión informativa la directora ejecutiva de SocialProof Security y “hacker ético” Rachel Tobac.
Las herramientas GenAI, disponibles de forma gratuita por las principales empresas, permiten a los estafadores cambiar sus caras y voces en las videollamadas mientras fingen ser alguien que no son.
“También pueden usar estos bots falsos que permiten crear una personalidad o hacer llamadas telefónicas usando un clon de voz, sin que sea necesario que intervenga un humano”, dijo Tobac.
“Los llaman agentes, pero no se utilizan para tareas de atención al cliente, sino para realizar estafas de forma automatizada”.
Tobac instó a las personas a ser “educadamente paranoicas” cuando un conocido en línea fomenta una conexión romántica, particularmente cuando conduce a una solicitud de dinero para hacer frente a una supuesta emergencia u oportunidad de negocio.
Tristeza invernal
El aislamiento y el ánimo deprimido que pueden venir con el clima invernal junto con el feriado del Día de San Valentín se consideran un momento de oportunidades para los estafadores.
“Definitivamente vemos una afluencia de estafadores que se aprovechan de esa soledad en el corazón del invierno”, dijo Tobac.
El objetivo principal del estafador es el dinero, con la táctica de generar confianza rápidamente y luego inventar una razón para necesitar efectivo o datos personales que puedan usarse para acceder a cuentas financieras, según Tobac.
“Ser educadamente paranoico ayuda mucho, y verificar que las personas son quienes dicen ser”, dijo Tobac.
Los estafadores operan en toda la gama de aplicaciones sociales, y Meta solo ve una parte de la actividad, según Agranovich.
El año pasado, Meta eliminó más de 408.000 cuentas de países de África occidental que estaban siendo utilizadas por estafadores para hacerse pasar por personal militar o hombres de negocios para cortejar a personas en Australia, Gran Bretaña, Europa, Estados Unidos y otros lugares, según el gigante tecnológico.
Además de desmantelar redes nefastas, Meta está probando tecnología de reconocimiento facial para verificar posibles impostores en línea detectados por sus sistemas o denunciados por los usuarios.
