¿Qué son los Deepfakes y cuál es el rol de la Inteligencia Artificial en todo esto?

A partir de las nuevas tecnologías con Inteligencia Artificial que logran recrear imágenes, videos y audios, se empezó a difundir de manera acelerada contenido que a simple vista parece real, pero en verdad no lo es. Desde declaraciones que nunca se hicieron hasta desnudos de celebridades en páginas eróticas, los deepfakes están generando un panorama de incertidumbre y preocupación en redes sociales. La calidad y los detalles de este contenido es tal que en más de una oportunidad medios de comunicación cayeron en el engaño y levantaron noticias falsas dándolas por ciertas. Inclusive, muchas de estas tecnologías terminan teniendo gran impacto en el área de ciberseguridad.

¿Qué es un deepfake?

Asociados fuertemente a las fake news, el concepto hace alusión a archivos que se asemejan a un dicho o persona real, pero que en realidad es manipulado por un software de Inteligencia Artificial. ¿Cómo? Utilizan los sistemas de aprendizaje de machine learning e incorporan elementos que ya están circulando en Internet. Un ejemplo muy concreto fue cuando se hicieron diversas fotografías falsas del Papa Francisco con una campera deportiva blanca.

[caption id="attachment_55541" align="alignnone" width="836"] El Papa Francisco fue víctima de un deepfake relacionado con su atuendo. Esta imagen del Sumo Pontífice fue alterada con Inteligencia Artificial.[/caption]

En este caso, una plataforma de IA vinculó a Francisco con el camperón a través de un comando cargado por un usuario. Esto fue posible gracias a que en Internet se encuentran millones de imágenes del Sumo Pontífice y de la prenda en cuestión, lo que facilitó la generación del collage digital. Por este motivo, resulta relativamente sencillo para cualquier persona que se anime a bucear en la Inteligencia Artificial montar una composición falsa: por la multiplicidad de herramientas y recursos disponibles a un click.

Taylor Swift emboscada por la Inteligencia Artificial

En el último tiempo varias fotografías fueron creadas con IA y distintos medios de comunicación las tomaron como ciertas: desde eventos o escenas que nunca ocurrieron hasta celebridades y figuras públicas en situaciones extremas o incómodas. Inclusive, circularon audios con declaraciones falsamente atribuidas a famosos. Uno de los hechos más resonantes fue el de Taylor Swift y sus imágenes explícitas. Dicho contenido había sido alterado y publicado en portales sin el consentimiento de la estrella pop, y sin ser ella realmente quien figuraba en las fotos. Ejemplos como estos dejan en claro una vez más el alcance de las inteligencias artificiales y el impacto que generan en distintos ambientes, especialmente en redes sociales. La tarea del periodismo entonces se vuelve aún más rigurosa, siendo necesario y fundamental corroborar las fuentes e investigar el origen de las piezas audiovisuales que circulan por Internet.

[caption id="attachment_55543" align="alignnone" width="1024"] La icónica cantante estadounidense Taylor Swift fue víctima de un deepfake relacionado con la industria pornográfica[/caption]

¿Por qué esta tecnología es tan dañina?

Otro de los grandes peligros de los deepfakes es que en la mayoría de las ocasiones, por no decir todas, no hay un consentimiento de la persona para utilizar su voz o imagen. Lo que genera una violación a su privacidad que puede dar pie a extorsiones, estafas y robos de identidad.  Esto podría difamar organizaciones, marcas o celebridades puntuales, al poner acciones o palabras en su boca. Al final del día, la información en Internet puede ser tergiversada, manipulada y modificada hasta en los sitios más profesionales. Las herramientas para hacerlo no dejan de estar al alcance de cualquier usuario. Por eso es urgente el desarrollo de sistemas que detecten y comprueben si un contenido es generado por IA. Inclusive, los usuarios que crean los deepfakes son capaces de concretar robos de identidad o atentar contra la ciberseguridad.

[caption id="attachment_50867" align="alignnone" width="1024"] En la mayoría de los casos, no hay un consentimiento de la persona para utilizar su voz o imagen[/caption]

En este sentido, una empresa multinacional de finanzas basada en Hong Kong fue noticia hace pocos días tras ser estafada por delincuentes que utilizaron una aplicación de IA para hacerse pasar por el CFO de la compañía. Mediante una llamada de zoom, los impostores se contactaron con un empleado de la firma y lo persuadieron para que acredite 25 millones de dólares. Desde entonces, el superintendente de la Oficina de Ciberseguridad, Tecnología y Delincuencia de dicho país, Baron Chan, ha estado dando seguimiento a las estafas realizadas a través de deepfakes. Las plataformas de Inteligencia Artificial avanzan a pasos agigantados y todas estas herramientas están disponibles para que cualquier persona las use. ¿Estamos entrando en una nueva era de desinformación y peligros para la seguridad cibernética?   Fuente: DEF   Ver más Actualidad Ciencia y Tecnología Mundo