Deepfakes

¿Ver para creer? Hoy la tecnología hace parecer lo que en realidad no es, o incluso, no existe.

Hace dos semanas, el programa "60 minutes", de la cadena CBS, presentó un reportaje del periodista Bill Whitaker, producido por Grahan Messick y Jack Weingart, titulado Synthetic Media: How deepfakes could soon change our world (Medios sintéticos: Como las deepkafes podrían cambiar pronto nuestro mundo). Se explicaba y ejemplificaba el siguiente nivel de las fakenews o noticias falsas, conocidas ahora como deepfakes, que tienen la capacidad de engañar de una forma más sistemática, tecnológica e hiperrealista. 

El término medios sintéticos o deepfakes es algo que la mayoría de la gente en México no ha escuchado o desconoce sus implicaciones, según la empresa de ciberseguridad Kappersky. No se advierte cuán lejos ha llegado esta tecnología en los últimos cinco anños, el peligro, usos y oportunidades que conlleva.  

Entender estos medios sintéticos a profundidad requeriría conocimientos propios de la ciencia de datos, ingeniería, computación o hasta física, sin embargo, conocer sus efectos y la relación que tienen con la sociedad de la información es algo que si? se puede comprender, en especial, cuando ya se están usando y popularizando en redes sociales.  

Las deepfakes combinan Inteligencia Artificial con Deep Learning, es decir, son grabaciones de video y audio hiperrealistas que utilizan la tecnología para crear contenido "falso". Los creadores de deepfakes tienen el poder de hacer que una persona haga o diga cualquier cosa a través de una pantalla.  

Según el ejemplo de "60 Minutes", a principios de 2021 una cuenta en TikTok llamada @deeptomcruise comenzó a subir videos, que a primera vista parecían ser del actor. ¿era real?, ¿por qué hacía esos comentarios? Y si no, entonces ¿quién lo había creado?  

Un artista belga de efectos visuales, de 32 años, llamado Chris Umé, reconoció su autoría. Aseguró que sólo se trataba de entretener y no dañar la imagen de nadie ni engañar a las personas.  

No es el único ejemplo. Existe un deepkafe que se realizó con Elon Musk, donde recomendaba el uso e inversión en criptomonedas.

Estos cortos, pero simbólicos videos, llevan a preguntarnos ¿cuáles son las implicaciones de esta tecnología en la vida actual y su relación con la desinformación?  

Uno de los primeros lugares donde despego? la tecnología deepfake fue en la pornografía, donde rostros de mujeres, en su mayoría celebridades, eran superpuestos en contenidos pornográficos, evidentemente sin su autorización.

Otra práctica recurrente es con temas relacionados a la ciberseguridad, ya que los ciberdelincuentes utilizan esta tecnología para engañar a los controles biométricos utilizados por los bancos para intentar falsificar identidades y acceder a sus cuentas. 

Dentro de los usos positivos que tiene el deepfake es que puede ayudar a generar nuevo contenido multimedia reduciendo costos, tiempo y espacios. Por ejemplo, la empresa Synthesia, fabrica y vende "avatares digitales", utilizando rostros de actores a quienes les paga, para entregar mensajes personalizados en 64 idiomas, solo con datos que optimiza esta Inteligencia Artificial.  

La tecnología de estos medios hiperrealistas se desarrolla de forma rápida y esto sólo es el inicio de este tipo de contenidos donde cada vez nos será más difícil identificar si estamos frente a una Inteligencia Artificial o es alguien "de carne y hueso" detrás de una pantalla. 

anarciae@gmail.com