Experto de Kaspersky señala que el desconocimiento de lo que son los deepfake, y el exceso de información presente en línea hacen a los usuarios más susceptibles al fraude y a la desinformación.
Los deepfake y la pandemia formaron una siniestra pareja, profundizando el impacto de los primeros en los usuarios latinoamericanos. La masificación de las tecnologias de inteligencia artificial han posibilitado la manipulación de la voz y expresiones faciales de personas para la creación de nuevos contenidos. Esto es conocido como un deepfake.
De hecho, el uso de los deepfake ha ganado popularidad en los últimos años, lo que representa desafíos mayúsculos para el usuario final. A este escenario se suma el desconocimiento que abunda en América Latina sobre esta técnica. Dejando así retos mayúsculos a la hora de diferenciar los contenidos reales de los falsos.
La pandemia aceleró el alcance de los deepfakes
Según la encuesta de Kaspersky “La infodemia y su impacto en la vida digital”, en asociación con CORPA, la mayoría de los internautas de la región no sabe qué es un deepfake.
Mucho menos reconoce cuando un contenido ha sido editado con esta práctica, factores que favorecen a las campañas de desinformación y contribuyen al apagón mental de los usuarios.
Pero ¿qué es un deepfake?
Deepfake es una palabra compuesta por “deep” de “deep learning”, o aprendizaje profundo, y “fake”, que significa falsificación. Esta técnica consiste en un método avanzado de Inteligencia Artificial (IA) que recopila datos sobre expresiones y movimientos físicos. Luego se procesan a través de una Red generativa antagónica (GAN) para crear un video ultra falso. Esta táctica antes era exclusiva para los estudios cinematográficos de Hollywood. Pero ahora es más accesible, lo que ha inundado el ciberespacio de contenido que puede confundir y hasta defraudar a los usuarios.
Según la investigación de Kaspersky, el 70% de los usuarios latinoamericanos ignora la existencia de esta táctica. De los encuestados, los peruanos (75%) son los que más la desconocen, seguidos de los mexicanos y chilenos (ambos con 72%), los argentinos (67%), brasileros (66%) y colombianos (63%). Para los expertos en ciberseguridad, este índice de desconocimiento es preocupante porque podría garantizar el éxito de tácticas de ingeniería social y fraude que aplican esta tecnología.
“La técnica de AI aplicada a expresiones fáciles en sí no es maliciosa, ya que permite a la industria del cine, por ejemplo, ofrecer al público experiencias cada vez más asombrosas. Sin embargo, el uso de deepfakes (el abuso del AI) tiende a volverse cada vez más imperceptible y, como pasa con cualquier tecnología innovadora, su proliferación conlleva a riesgos y consecuencias”, advierte Dmitry Bestuzhev, director del Equipo de Investigación y Análisis para América Latina en Kaspersky.
La clave está en el conocimiento
El informe de Kaspersky también revela que la mayoría de los encuestados en América Latina (67%) no reconoce cuándo un video ha sido editado digitalmente usando esta técnica. Los colombianos son lo que menos pueden detectar este tipo de videos (72%), seguidos por los brasileños (71%), chilenos (70%), argentinos (68%), mexicanos (62%) y peruanos (57%). Estas cifras son preocupantes ya que que además de videos compartidos por redes sociales o WhatsApp, también se han reportado casos de fraude. Lo que se ha visto en plataformas de búsqueda de trabajo que utilizan esta tecnología para crear perfiles falsos. Con el objetivo de engañar y extraer información personal de sus víctimas. Incidentes documentados del uso de esta tecnología para imitar la voz de empresarios o figuras públicas han ampliado el alcance de la desinformación y estafas.
“Los ejemplos más comunes de uso indebido incluyen videos falsos que utilizan el rostro de sus víctimas para atentar contra su integridad o credibilidad. Así como la manipulación de imágenes y sonidos para eludir contraseñas biométricas (rostro y voz). A medida que la tecnología se vuelva menos costosa, podemos esperar que surjan nuevos usos ilícitos”.
¿Por qué sucede esto y qué podemos hacer?
Para Bestuzhev, existen dos factores que hacen que las personas estén más expuestas al fraude que utiliza deepfakes. “La falta de conocimiento sobre la existencia de esta tecnología es el primer factor. El segundo es la sobrecarga mental, causada por el exceso de información en línea. Algo que el 76% de los latinoamericanos admite sentir hoy”, comenta el experto.
“La combinación de estos dos factores hace que los usuarios sean presas fáciles de campañas de desinformación y fraude que utilizan esta práctica. Por ende, es importante que los usuarios se informen sobre los diferentes usos de esta táctica. Hagan un esfuerzo consiente por desconectarse del mundo digital varias veces al día. Estas simples practicas ayudarán a despejar la mente, facilitando el entendimiento de cómo funcionan estos avances de la inteligencia artificial. Así como ser cautelosos al ver videos o escuchar correos de voz, especialmente si estos comunican información extraña o ilógica”, concluye Bestuzhev.