Intimidad por encargo: cómo los deepfakes violan los límites de la privacidad de las celebridades

Las escandalosas falsificaciones digitales llevan a las celebridades a preocuparse por su imagen, ya que se ven perjudicados. ¿Cómo abordar un problema que está fuera de control?

Los ciberestafadores utilizan activamente tecnologías de inteligencia artificial para crear contenido pornográfico falso con celebridades. Naturalmente, nadie pide permiso a estos últimos para generar dichos materiales.

Según la analista independiente Genevieve Oh, la cantidad de vídeos eróticos deepfake en la web se ha multiplicado por 9 desde 2019. En mayo de 2023, se publicaron casi 150.000 de estos vídeos, con 3.800 millones de visitas en 30 sitios.

Una de las víctimas constantes de los vídeos porno falsos es un popular transmisor de Internet bajo el seudónimo de Amouranth. Su equipo encuentra periódicamente nuevos vídeos explícitos falsos directamente en los resultados de búsqueda de Google y presenta quejas sobre la eliminación de enlaces. Los enlaces se eliminan, pero se trata de una “batalla constante” que se produce tras la publicación de dicho contenido en la red.

Curiosamente, las mayores empresas tecnológicas incluso apoyan indirectamente la difusión de deepfakes. Google, por ejemplo, es la principal fuente de tráfico para sitios con contenido erótico deepfake. Y los usuarios de Twitter * contribuyen a su distribución y popularización.

Al mismo tiempo, servicios como Cloudflare , Amazon y GitHub proporcionan alojamiento web para alojar dicho contenido. Está claro que difícilmente empresas tan conocidas quieran tener tanta fama negra, pero todo resulta así.

Los expertos creen que las víctimas deberían enviar quejas sobre la distribución de contenidos eróticos falsos con su participación directamente a los gigantes tecnológicos, para que ellos mismos resuelvan el problema e introduzcan nuevos métodos de moderación previa de contenidos.

En lo que debes centrarte primero que nada para resolver el problema son en los permisos escritos. Es decir, las empresas deben verificar el consentimiento de las personas para el uso de sus imágenes e imágenes en dicho contenido, ya que es poco probable que al menos una de las víctimas de las travesuras de los autores de deepfake de repente no se oponga a su participación en dichos materiales.

Google ha dicho que está desarrollando activamente protecciones para las víctimas de pornografía no autorizada, pero hasta ahora no existe ninguna ley federal en Estados Unidos que prohíba los deepfakes o que implique responsabilidad alguna por su producción.

Carrie Goldberg, abogada estadounidense especializada en casos de difusión de material sexual no consentido, cree que, en última instancia, son las plataformas tecnológicas las que determinan el nivel de impacto de ese contenido en las víctimas. Y sólo ellos podrán resolver este problema si están lo suficientemente interesados ​​en él.