La necesidad de identificar este uso malicioso es crucial para proteger la información personal y la integridad de las personas
Los “deepfakes” o las también conocidas como representaciones maliciosas ultrafalsas, sobre todo en imágenes fijas, videos y audios de voz, generadas a través tecnologías como la inteligencia artificial, preocupan a cada vez más internautas.
Una reciente encuesta realizada por la empresa de verificación automatizada de identidad Jumio revela que nueve de cada 10 mexicanos encuestados se preocupan por ser engañados por un deepfake. Este 89% dice que su intranquilidad es especialmente en lo relacionado con la entrega de información sensible o dinero.
El reporte citado, llamado “Identidad en línea 2024”, contempló, además de personas en México, a internautas de Reino Unido, Estados Unidos y Singapur.
En total se examinaron las opiniones de más de 8 mil consumidores adultos. Se destaca que el 74% de los mexicanos tiene la certeza o sospecha de que ya ha sido víctima de algún fraude o robo de identidad, o que conoce a alguien que se ha visto afectado de esta manera.
CRECE LA PREOCUPACIÓN
“Los resultados de este año ponen de manifiesto la gran preocupación de los consumidores por los riesgos asociados a la IA generativa y los “deepfakes”, incluido el potencial aumento de la ciberdelincuencia y el fraude de identidad”, subraya Jumio a través de esta la tercera entrega de su encuesta anual.
A nivel internacional, se lee en “Identidad en línea 2024”, únicamente el 15% de las personas consultadas afirma que “nunca se ha encontrado con un video, audio o imagen falsificada, mientras que el 60% refiere que ha estado expuesto a un “deepfake” en el último año”.
¿SE PUEDE DETECTAR?
Aunque los deepfakes son cada vez más precisos y sofisticados, debido a los avances en temas de IA generativa, las personas siguen considerándose a sí mismas como capaces de identificar este tipo de contenidos fraudulentos.
“Los consumidores siguen sobrevalorando su propia capacidad para detectar deepfakes: el 60% cree que podría detectarlos, contra el 52% en 2023”, se reporta en la investigación de Jumio.
La empresa puntualiza que los hombres se muestran más confiados respecto a las mujeres en la capacidad para identificarlos (66% contra el 55%).
Los del sexo masculino que están entre los 18 a 34 años son quienes muestran más confianza (75%), mientras que las mujeres que están entre los 35 a 54 años son las menos seguras (52%).
Al respecto, Stuart Wells, director de Tecnología de la citada firma de verificación de identidad, argumentó: “A medida que avanza la inteligencia artificial generativa, la incidencia de deepfakes sigue aumentando, lo que revela una brecha significativa en nuestra capacidad colectiva para detectar estos engaños”.
SOLUCIONES EFECTIVAS
El especialista subrayó que este continuo exceso de confianza pone sobre la mesa la necesidad crítica de una educación pública más fuerte y soluciones tecnológicas más efectivas.
“Es esencial que las empresas y los consumidores colaboren para mejorar las medidas de seguridad digital con el fin de prevenir el fraude de identidad”.
Para paliar las afectaciones provocadas por los deepfakes, Philipp Pointner, jefe de Identidad Digital de Jumio, señaló que es imperativo incorporar sistemas de verificación multimodales y basados en la biometría. “Estos son clave para garantizar que las empresas puedan proteger sus plataformas y a sus clientes de las amenazas emergentes, y son significativamente más fuertes que las contraseñas y otros métodos tradicionales y obsoletos de identificación y autenticación”.