El Peligro Dentro del Uso de los Deepfakes: Implicaciones Legales y Éticas
| Autor | Matías Lavanda Oliva |
| Cargo | LL.B por la Universidad de Piura |
- Introducción
El término «Deepfake» emergió en 2017, derivado de la fusión de las palabras anglosajonas “Deep” (profundo) y “Fake” (falso). «Deep» alude a «Deep Learning» o «Aprendizaje Profundo», un método de inteligencia artificial que formula algoritmos para que las computadoras adquieran conocimientos de forma autónoma1. Estos algoritmos tienen la habilidad de construir abstracciones de alto nivel, generando patrones audiovisuales tales como imágenes, videos y audios de apariencia tan realista que son equiparables a las grandes producciones cinematográficas de Hollywood con la gran diferencia de que su costo y esfuerzo son mínimos.
Al ser entrenados con vastos conjuntos de datos, estos algoritmos pueden imitar, fusionar rasgos y audio, resultando en representaciones que, en muchos casos, desafían la distinción humana entre realidad y simulación con el objetivo de fabricar réplicas digitales de cualquier persona, ya sea una figura pública o privada, y adaptar esta réplica para que actúe o verbalice según la intención del creador del Deepfake.
Lo preocupante es la accesibilidad de esta técnica. Los softwares de Redes Generativas Antagónicas o por sus siglas en inglés GAN, específicos para la creación de vídeos están disponibles en línea como código abierto, lo que significa que son de libre acceso. Contrarrestar estos vídeos es un reto, ya que el software de Deepfake utiliza un mecanismo que burla a los algoritmos convencionales de detección. Este proceso se basa en la “competencia” entre dos algoritmos: uno superpone una cara en un vídeo de manera repetitiva, mientras el otro evalúa y descarta los resultados menos convincentes del primero (generador y discriminador)2. Esta competencia iterativa refina el producto final, haciendo que los resultados sean sorprendentemente realistas con un ínfimo margen de error.
Dado su potencial para distorsionar la percepción de la realidad y su disponibilidad, los Deepfakes representan importantes retos legales y éticos, abordando cuestiones de privacidad, consentimiento e incluso la seguridad nacional.
En primer lugar, la creación de Deepfakes implica una recopilación extensiva de datos del sujeto, muchas veces obtenidos sin su conocimiento o consentimiento, lo que plantea serias preocupaciones sobre la privacidad y la seguridad de la información.
Además, una de las aplicaciones más maliciosas de esta tecnología es la superposición del rostro de un individuo en contenidos que pueden ser publicitarios, desinformativos o incluso pornográficos, sin su autorización, lo que puede causar daños emocionales, psicológicos y reputacionales, a esto se le añade la naturaleza viral de estos contenidos que hará que su eliminación completa de la web sea aún más desafiante.
En el ámbito político y social, los Deepfakes pueden ser herramientas de desinformación, especialmente en contextos electorales. Pueden ser utilizados para difamar a candidatos, distorsionar sus declaraciones o crear escándalos ficticios, desestabilizando procesos democráticos y erosionando la confianza en las instituciones.
Los Deepfakes pornográficos representan una de las manifestaciones más dañinas de esta tecnología. Al superponer el rostro de un individuo en...
Para continuar leyendo
Solicita tu prueba