Aunque la Inteligencia Artificial (AI), si se utiliza bien, puede ser un recurso de valor incalculable, prácticas como el deepfake AI dejan claro que esta tecnología también puede suponer graves riesgos. Esto sucede porque permite crear imágenes, vídeos o audios falsos y convincentes, lo que abre la puerta a manipulaciones peligrosas que pueden minar la confianza, desatar fraudes y provocar graves impactos éticos y sociales.
Por eso es importante no solo saber qué es un deep AI, sino también cómo identificarlo y, más importante aún, cómo marcar límites éticos claros.
Qué es un deepfake y cómo funciona
Un deepfake es un contenido audiovisual o de audio falso que se crea usando tecnología de Inteligencia Artificial con la intención de que parezca completamente auténtico. Su nombre proviene de la combinación de los conceptos anglosajones ‘deep learning’ (aprendizaje profundo) y ‘fake’ (falso).
Este tipo de manipulaciones se han convertido en un problema serio, ya que permiten suplantar personalidades, desinformar y engañar, siendo además muy difíciles de detectar para el público no especializado.
El funcionamiento del deepfake AI es muy sencillo de comprender: basta con darle un buen número de vídeos o audios de una persona concreta a herramientas de IA para que la máquina aprenda sobre sus rasgos faciales, su forma de hablar e incluso sus gestos. Después, una parte genera nuevos contenidos falsos mientras otra comprueba si parecen reales, refinando hasta conseguir un resultado capaz de hacer dudar incluso al propio protagonista del medio.
Tecnologías detrás del deepfake
Las tecnologías básicas para crear un deepfake creíble son redes neuronales avanzadas. Para conseguirlo, se utilizan Generative Adversarial Networks (GANs) que, como ya hemos dicho, permiten que un modelo genere imágenes o audios falsos mientras otro evalúa su realismo, mejorando con cada iteración hasta lograr resultados muy convincentes.
También se utilizan autoencoders, que comprimen una imagen a un espacio latente y luego la reconstruyen, permitiendo transferir rasgos faciales entre distintas personas.
Además, es posible capturar puntos de referencia faciales, como por ejemplo la sincronización de labios, que permiten afinar las expresiones, los gestos e incluso las voces, haciendo que el deepfake resulte mucho más natural y difícil de distinguir.
Aplicaciones actuales del deepfake
Aunque se los relaciona con intentos de engaño, o incluso de estafa, los deepfakes tienen aplicaciones que van más allá del fraude.
Por ejemplo, en contextos creativos, sociales y profesionales, esta tecnología se utiliza con fines legítimos como el entretenimiento o la protección de la identidad, aunque lo cierto es que no deja de despertar ciertas inquietudes.
- El deepfake AI se utiliza en producciones humorísticas, con el objetivo de parodiar a figuras públicas con fines cómicos y reflexivos.
- También se utiliza en videojuegos y redes sociales, donde los audios deepfake permiten ocultar rasgos como el género o la edad, algo muy útil para protegerse de posibles situaciones de acoso.
- En producción audiovisual, como en publicidad, cine o creación de tráilers, se usa para generar rostros intercambiados o generados desde cero. En cine, de hecho, puede utilizarse para superponer el rostro de actores y actrices sobre los de sus dobles de acción, aunque esta opción aún tiene que batallar contra algunos conflictos legales.
Riesgos y problemas éticos
Aunque hemos visto que hay algunos usos inofensivos del deepfake, de momento son más los peligros. Desde estafas económicas a ataques de reputación, esta tecnología plantea desafíos éticos urgentes que exigen una evolución necesaria a las legislación internacional.
- Hay quienes utilizan deepfakes de voz o imagen para engañar a víctimas en estafas amorosas o empresariales, pudiendo llegar a provocar pérdidas multimillonarias.
- La gran mayoría de los deepfakes AI que circulan por la red involucran a mujeres con fines de humillación o represión.
- También se crean falsos mensajes o escenas de figuras públicas, lo que puede llegar a alterar procesos democráticos o difamar reputaciones.
- Además, contribuye al ciberbullying, pues estudiantes y víctimas son retratados en situaciones comprometedoras sin autorización, pudiendo provocar traumas psicológicos y aislamiento.
Cómo detectar un deepfake
Aunque los deepfakes son cada vez más realistas, todavía dejan algunas pistas sutiles que pueden permitir identificarlos. ¡Y saber cuáles son te permitirá no caer en sus redes!
- Una piel demasiado suave o con reflejos poco realistas suele ser un signo de falsificación.
- Un movimiento de labios que no coincide con el audio, un parpadeo irregular o una mirada totalmente fija son señales a tener muy en cuenta.
- Luces o bordes de rostros mal integrados también suelen estar muy presentes en los deepfakes.
- Otro signo a destacar es detectar un tono de voz plano o monótono, pues algunas AIs todavía tienen ciertas dificultades para replicar las inflexiones emocionales naturales de la voz humana.
Además, cada vez existen más herramientas capaces de identificar contenido generado con IA, aunque la gran mayoría de ellas tiene limitaciones por el momento.
H2: Casos reales de uso malintencionado
Los deepfakes AI con malas intenciones no solo han alcanzado ya notoriedad pública al perjudicar a figuras famosas, sino que han llegado a ser emitidos en informativos dando por hecho que eran reales en distintas ocasiones. Esto, que trasciende lo teórico para convertirse en algo muy real, debe servir para alertar sobre el poder manipulador que tiene esta tecnología cuando se utiliza con fines difamatorios, sexuales o políticos
- Un ejemplo de esto son las imágenes explícitas de Taylor Swift que circulan por internet, completamente falsas y que generan millones de visualizaciones sin su consentimiento.
- La actriz Scarlett Johansson denunció que “corremos el riesgo de perder el control de la realidad” cuando se descubrió como protagonista de un vídeo deepfake en el que aparecía junto a otras celebridades con simbología ofensiva.
- En España también tenemos ejemplos de contenido creado con un generador de deepfake AI, como por ejemplo el de la presentadora Lorena Castell, que denunció que su imagen fue usada de forma fraudulenta para realizar estafas online.
Ahora bien, si hay un personaje al que cualquier bot de deepfake AI le tiene tomada la medida es, sin duda, a Donald Trump, uno de los principales objetivos de este tipo de tecnología.
Regulación y legislación actual
En España se está construyendo un marco legal férreo frente al uso indebido de deepfakes, especialmente los que involucran a menores o se utilizan para engaños con fines dudosos.
Actualmente, la Ley de Protección de Menores en el Entorno Digital considera delito la creación y difusión de deepfakes sexuales y el grooming, introduciendo medidas como órdenes de alejamiento virtual y controles parentales obligatorios.
Además, el anteproyecto de Ley para el buen uso y gobernanza de la IA exige etiquetar contenidos generados por IA, prohíbe prácticas subliminales que manipulen y contempla multas de hasta 35 millones de euros por incumplimiento.
Futuro de los deepfakes y la IA
A medida que la tecnología de deepfakes y la IA avanzan, distinguir entre realidad y manipulación será cada vez más difícil, lo que subraya la vital necesidad de una legislación realmente efectiva.
Los deepfakes evolucionarán hacia una calidad tan alta que será difícil distinguirlos incluso por expertos. Por eso la ley debe avanzar al mismo ritmo, incorporando etiquetado automático, transparencia en la creación de contenido y responsabilidades claras para los creadores y plataformas que los difundan.
En Europa, el Reglamento de Inteligencia Artificial (RIA), vigente desde marzo de 2024, establece categorías de riesgo y obliga a señalizar claramente los contenidos generados o modificados por IA.
Sin embargo, si lo que necesitas es IA para crear una página web desde cero y llenarla de contenido de calidad en cuestión de minutos, tenemos exactamente lo que buscas: nuestro servicio GoDaddy Airo incluido con la compra de tu dominio. ¡Dar forma a un proyecto en línea nunca ha resultado así de rápido y sencillo!
