Ciencia y Tecnología
3 de Abril de 2024

¿Qué son los Deepfakes y cuál es el rol de la Inteligencia Artificial en todo esto?

El rol y la figura de las “fake news” toman cada vez más relevancia, las noticias en redes sociales pierden el control y surgen nuevos peligros de ciberseguridad.

¿Qué son los Deepfakes y cuál es el rol de la Inteligencia Artificial en todo esto?
A partir de las nuevas tecnologías con Inteligencia Artificial que logran recrear imágenes, videos y audios, se empezó a difundir de manera acelerada contenido que a simple vista parece real, pero en verdad no lo es. Desde declaraciones que nunca se hicieron hasta desnudos de celebridades en páginas eróticas, los deepfakes están generando un panorama de incertidumbre y preocupación en redes sociales. La calidad y los detalles de este contenido es tal que en más de una oportunidad medios de comunicación cayeron en el engaño y levantaron noticias falsas dándolas por ciertas. Inclusive, muchas de estas tecnologías terminan teniendo gran impacto en el área de ciberseguridad.

¿Qué es un deepfake?

Asociados fuertemente a las fake news, el concepto hace alusión a archivos que se asemejan a un dicho o persona real, pero que en realidad es manipulado por un software de Inteligencia Artificial. ¿Cómo? Utilizan los sistemas de aprendizaje de machine learning e incorporan elementos que ya están circulando en Internet. Un ejemplo muy concreto fue cuando se hicieron diversas fotografías falsas del Papa Francisco con una campera deportiva blanca.
[caption id="attachment_55541" align="alignnone" width="836"]El Papa Francisco fue víctima de un deepfake relacionado con su atuendo. Esta imagen del Sumo Pontífice fue alterada con Inteligencia Artificial. El Papa Francisco fue víctima de un deepfake relacionado con su atuendo. Esta imagen del Sumo Pontífice fue alterada con Inteligencia Artificial.[/caption]
En este caso, una plataforma de IA vinculó a Francisco con el camperón a través de un comando cargado por un usuario. Esto fue posible gracias a que en Internet se encuentran millones de imágenes del Sumo Pontífice y de la prenda en cuestión, lo que facilitó la generación del collage digital. Por este motivo, resulta relativamente sencillo para cualquier persona que se anime a bucear en la Inteligencia Artificial montar una composición falsa: por la multiplicidad de herramientas y recursos disponibles a un click.

Taylor Swift emboscada por la Inteligencia Artificial

En el último tiempo varias fotografías fueron creadas con IA y distintos medios de comunicación las tomaron como ciertas: desde eventos o escenas que nunca ocurrieron hasta celebridades y figuras públicas en situaciones extremas o incómodas. Inclusive, circularon audios con declaraciones falsamente atribuidas a famosos. Uno de los hechos más resonantes fue el de Taylor Swift y sus imágenes explícitas. Dicho contenido había sido alterado y publicado en portales sin el consentimiento de la estrella pop, y sin ser ella realmente quien figuraba en las fotos. Ejemplos como estos dejan en claro una vez más el alcance de las inteligencias artificiales y el impacto que generan en distintos ambientes, especialmente en redes sociales. La tarea del periodismo entonces se vuelve aún más rigurosa, siendo necesario y fundamental corroborar las fuentes e investigar el origen de las piezas audiovisuales que circulan por Internet.
[caption id="attachment_55543" align="alignnone" width="1024"]La icónica cantante estadounidense Taylor Swift fue víctima de un deepfake relacionado con la industria pornográfica. La icónica cantante estadounidense Taylor Swift fue víctima de un deepfake relacionado con la industria pornográfica[/caption]

¿Por qué esta tecnología es tan dañina?

Otro de los grandes peligros de los deepfakes es que en la mayoría de las ocasiones, por no decir todas, no hay un consentimiento de la persona para utilizar su voz o imagen. Lo que genera una violación a su privacidad que puede dar pie a extorsiones, estafas y robos de identidad.  Esto podría difamar organizaciones, marcas o celebridades puntuales, al poner acciones o palabras en su boca. Al final del día, la información en Internet puede ser tergiversada, manipulada y modificada hasta en los sitios más profesionales. Las herramientas para hacerlo no dejan de estar al alcance de cualquier usuario. Por eso es urgente el desarrollo de sistemas que detecten y comprueben si un contenido es generado por IA. Inclusive, los usuarios que crean los deepfakes son capaces de concretar robos de identidad o atentar contra la ciberseguridad.
[caption id="attachment_50867" align="alignnone" width="1024"]En la mayoría de los casos, no hay un consentimiento de la persona para utilizar su voz o imagen. En la mayoría de los casos, no hay un consentimiento de la persona para utilizar su voz o imagen[/caption]
En este sentido, una empresa multinacional de finanzas basada en Hong Kong fue noticia hace pocos días tras ser estafada por delincuentes que utilizaron una aplicación de IA para hacerse pasar por el CFO de la compañía. Mediante una llamada de zoom, los impostores se contactaron con un empleado de la firma y lo persuadieron para que acredite 25 millones de dólares. Desde entonces, el superintendente de la Oficina de Ciberseguridad, Tecnología y Delincuencia de dicho país, Baron Chan, ha estado dando seguimiento a las estafas realizadas a través de deepfakes. Las plataformas de Inteligencia Artificial avanzan a pasos agigantados y todas estas herramientas están disponibles para que cualquier persona las use. ¿Estamos entrando en una nueva era de desinformación y peligros para la seguridad cibernética?   Fuente: DEF   Ver más Actualidad Ciencia y Tecnología Mundo
Más de Ciencia y Tecnología
Científicos argentinos desarrollan una vincha inteligente para mejorar el sueño y la memoria
Los creadores de la empresa NeuroAcoustics diseñan un dispositivo impulsado por inteligencia artificial, destinado a tratar diversas patologías durante el sueño. Tiene el potencial de mitigar los efectos del deterioro cognitivo asociado con el envejecimiento cerebral.
Profesionales de la UNLP construyen el primer avión eléctrico de Latinoamérica
Lo desarrollan junto a la empresa Aviem Aeronáutica. También participa un investigador de la CIC.
Quién fue Irene Bernasconi, la bióloga marina pionera en la investigación científica en la Antártida
Nació en La Plata en 1896. En 1968, con 72 años, se convirtió en la primera mujer en liderar una expedición junto a otras colegas al continente más austral de la Tierra para estudiar moluscos e invertebrados marinos.
Demuestran que los elefantes se ponen nombres propios y se identifican entre sí dentro de la manada
Producen sonidos únicos para referirse a cada ejemplar, según un estudio publicado en la revista Nature Ecology and Evolution. El hallazgo es "poco habitual" y abre la posibilidad de que los elefantes tengan pensamiento abstracto
Michel Desmurguet, neurólogo y ensayista: “El exceso de pantallas puede dañar la inteligencia de los niños”
El autor de 'La fábrica de cretinos digitales' regresa ahora con 'Más libros y menos pantallas. Cómo acabar con los cretinos digitales', donde advierte que el fomento de la lectura es el último bastión de pensamiento crítico frente a la creciente relativización de los valores democráticos
Día de la Ingeniería Argentina: por qué se celebra todos los 6 de junio
Sin duda es una de las ciencias más importantes para lograr una construcción exitosa. Conocé la razón de este homenaje.