De todos los poderes aterradores de Internet, su capacidad para engañar a los desprevenidos puede ser la más aterradora. Los clickbait, las imágenes retocadas con Photoshop y las noticias falsas son algunos de los peores delincuentes, pero los últimos años también han visto el surgimiento de unherramienta conocida como deepfake inteligencia artificial AI.
El término deepfake se refiere al audio y video falsificados generados por computadora que es difícil de distinguir del contenido genuino e inalterado. Es filmar lo que Photoshop es para imágenes.
¿Cómo funciona la IA deepfake?
La herramienta se basa en lo que se conoce como redes generativas adversarias GAN, una técnica inventada en 2014 por Ian Goodfellow, un estudiante de doctorado que ahora trabaja en Apple. Popular Mechanics informado .
El algoritmo GAN involucra dos IA separadas, una que genera contenido, digamos fotos de personas, y un adversario que intenta adivinar si las imágenes son reales o falsas. según Vox . La IA generadora comienza casi sin idea de cómo se ven las personas, lo que significa que su socio puede distinguir fácilmente las fotos verdaderas de las falsas. Pero con el tiempo, cada tipo de IA mejora progresivamente y, finalmente, la IA generadora comienza a producir contenido que se veperfectamente realista.
Relacionado: Lea las últimas noticias y características sobre inteligencia artificial.
ejemplos de deepfake
Las GAN son herramientas impresionantes y no siempre se utilizan con fines maliciosos. En 2018, una pintura generada por GAN que imitaba el estilo holandés "Old Master" de artistas como Rembrandt van Rijn del siglo XVII se vendió en la casa de subastas de Christie's por un increíble $ 432,500 .
Pero cuando los GAN están capacitados en archivos de video y audio, pueden producir material realmente perturbador. En 2017, investigadores de la Universidad de Washington en Seattle capacitaron a una IA para cambiar un video del expresidente Barack Obama, por lo que sus labios se movieron de acuerdo con palabras de un discurso totalmente diferente. El trabajo fue publicado en la revista Transacciones ACM en gráficos TOG .
Ese mismo año, los deepfakes adquirieron una gran importancia, principalmente a través de un usuario de Reddit que se hacía llamar 'deepfakes'. Vice reportado . La técnica GAN se usaba a menudo para colocar los rostros de celebridades famosas, incluidas Gal Gadot, Maisie Williams y Taylor Swift, en los cuerpos de actrices de películas pornográficas.
Otras GAN han aprendido a tomar una sola imagen de una persona y crear fotos o videos alternativos bastante realistas de esa persona. En 2019, un deepfake podría generar escalofríos pero realistas películas de la Mona Lisa hablando, moviéndose y sonriendo en diferentes posiciones.
Relacionado: ¿Por qué nos asusta tanto la inteligencia artificial?
Los deepfakes también pueden alterar el contenido de audio. Según lo informado por The Verge a principios de este año, la técnica puede unir palabras nuevas en un video de una persona hablando, haciendo que parezca que dijo algo que nunca tuvo la intención de decir.
La facilidad con la que se puede implementar la nueva herramienta tiene ramificaciones potencialmente aterradoras. Si alguien, en cualquier lugar, puede hacer películas realistas que muestren a una celebridad o un político hablando, moviéndose y diciendo palabras que nunca dijeron, los espectadores se ven obligados a ser más cautelosos con el contenido deInternet. Por ejemplo, escuche la advertencia del presidente Obama contra un futuro distópico "jodido" en esto video de Buzzfeed , creado con deepfake por el cineasta Jordan Peele.
Recursos adicionales :
- Aprenda cómo puede ayudar a Google con su investigación de detección de deepfake .
- Ver: " Los videos de deepfake se están volviendo terriblemente reales , "de NOVA PBS.
- Leer más sobre IA deepfake y posibles soluciones legales de The Brookings Institution.