Un mundo de rostros generados por Inteligencia Artificial

¿Estamos preparados para una avalancha de realidades fabricadas? El caso del sitio “thispersondoesnotexist”

A lo largo de los últimos años hemos pudimos apreciar la evolución de la manipulación de imágenes. Antes el Photoshop era el asistente perfecto para la mayoría de tareas de modificación de imágenes. Se volvió parte de nuestra realidad y eventualmente nos llegaban fotografías “photshopeadas” y montajes con mayor o menor calidad.

A finales del año pasado, cuando empezaba a publicar contenidos de educación digital en las cuentas de Confirmado, puse una breve definición de los Deep Fakes y agregué el video que hizo Buzzfeed para probar cómo podían generarse este tipo de videos.

Naturalmente varias organizaciones empezaron a buscar la forma de detectarlos. De esto hay abundante información en Internet. Vale la pena leer el post que publicó Jonathan Hui al respecto: How deep learning fakes videos (Deepfakes) and how to detect it?

Y el artículo de MIT Technology Review explica buena parte del contexto: The Defense Department has produced the first tools for catching deepfakes

Lo anterior no es nada nuevo. Ya The Verge había publicado sobre estos temas en 2016.

Para comprender la generación de Deep Fakes es importante conocer los Generative Adversarial Networks (GAN) que se usan para fabricar imágenes estáticas o en movimiento a partir de datos aislados (entre sí).

Generative Adversarial Networks (GAN)

El año pasado un equipo de investigadores que trabaja en NVIDIA Corporation publicó un documento donde explican cómo lograron este tipo de generación de imágenes: https://arxiv.org/abs/1812.04948

Para explicarlo visualmente publicaron este video:

thispersondoesnotexist

imágenes creadas por de forma artificial.

El 9 de febrero se registró el dominio thispersondoesnotexist.com y ofrece imágenes fabricadas de personas que no existen.

Es un proyecto de Philip Wang, ingeniero de Uber, que utilizó el proyecto de los investigadores de NVIDIA y han dejado abierto en Github la información para quien quiera emplearlo.

La explicación completa de cómo funciona la generación artificial de rostros se puede leer aquí: Style-based GANs — Generating and Tuning Realistic Artificial Faces

Basta con refrescar la página para obtener una nueva imagen con un rostro artificial. Pueden probarlo: https://thispersondoesnotexist.com/

-¿Es preocupante?

-Sí.

En Guatemala

En Guatemala aún estamos lejos de los Deep Fakes, pero ya fabrican videos con imágenes alteradas en temas políticos. Aquí un ejemplo que se puede lograr con aplicaciones de uso abierto.

Como este circulan varios, aunque no públicamente. Ocurre más en chats grupales de WhatsApp.

Con portales como el de los rostros artificiales se le facilitará a cualquiera ponerle rostros a cuentas automatizadas en redes sociales.

¿Qué podemos hacer?

Contrastar la información y, aunque nos lleve algo de tiempo, buscar fuentes oficiales, medios acreditados y expertos en los temas de la información que nos llega. De otra forma podríamos caer fácilmente en un engaño con imágenes manipuladas o fabricadas artificialmente.

Journalism • Safety & Security | Internet • Disinfo • OSINT • Fire Science | Fellow: JICA ’01 • DW ’10 • ICFJ ’15 • RNTC ’20 • RSF ‘21

Journalism • Safety & Security | Internet • Disinfo • OSINT • Fire Science | Fellow: JICA ’01 • DW ’10 • ICFJ ’15 • RNTC ’20 • RSF ‘21