By Kernel Creativo 
Octubre 22, 2026 Un video en el que un personaje famoso dice algo que nunca dijo, o el rostro de una persona que nunca existió. Estas imágenes, cada vez más convincentes, son posibles gracias a técnicas de inteligencia artificial generativa. Entender cómo funcionan es el primer paso para no dejarse engañar.
En 2014, Ian Goodfellow y colaboradores propusieron las redes generativas adversarias, conocidas como GAN. Constan de dos redes neuronales que compiten. El generador intenta crear imágenes falsas que parezcan reales. El discriminador recibe imágenes reales y falsas y debe decidir cuáles son cuáles.
Se suele explicar con la analogía de un falsificador y un detective. El falsificador intenta producir billetes cada vez mejores, y el detective aprende a detectar los fallos. A medida que el detective mejora, el falsificador debe perfeccionar su técnica. Tras miles de iteraciones, el generador produce imágenes tan buenas que el discriminador ya no puede distinguirlas.
Las GAN se usan para generar datos sintéticos de entrenamiento en medicina cuando hay pocos casos reales, restaurar fotografías antiguas, aumentar la resolución de imágenes, diseñar moléculas y crear efectos visuales en cine y videojuegos. También se aplican en moda y arquitectura para explorar variaciones de diseño.
Un deepfake es un contenido audiovisual manipulado o sintetizado con inteligencia artificial, en el que se reemplaza el rostro o la voz de una persona por los de otra. Pueden usarse con fines creativos o humorísticos, pero también para fraude, difamación, acoso o desinformación política.
Los casos más graves incluyen la suplantación de voz para estafas telefónicas, la creación de imágenes íntimas falsas sin consentimiento y la fabricación de supuestas declaraciones de figuras públicas. Además de los daños directos, existe el efecto de que la gente dude de contenidos auténticos, lo que se llama dividendo del mentiroso.
Algunas pistas visuales incluyen parpadeos extraños, bordes borrosos en el rostro, iluminación inconsistente, dientes o manos con defectos y labios que no coinciden exactamente con el audio. Pero los modelos mejoran rápido y estas señales dejan de ser fiables. Existen herramientas automáticas de detección, aunque en una carrera constante con los generadores.
Se trabaja en marcas de agua invisibles, firmas criptográficas de autenticidad que acompañan a las fotos desde la cámara y estándares de procedencia del contenido. Las plataformas y los legisladores avanzan en normas de etiquetado y sanción de usos dañinos.
Verifica la fuente antes de compartir, busca si otros medios confiables reportan lo mismo, desconfía de contenidos que provocan reacciones emocionales fuertes y, ante una llamada que pide dinero urgente aunque suene como alguien conocido, cuelga y comunica por otro canal.
Aunque las GAN fueron pioneras, hoy gran parte de la generación de imágenes se basa en modelos de difusión, más estables de entrenar y con mejor diversidad. Las GAN siguen usándose por su velocidad, ya que producen una imagen en un solo paso, y en tareas específicas como mejora de resolución. Ambas familias comparten el reto de la autenticidad, y las herramientas de verificación deben evolucionar para seguir el ritmo de ambas.
La tecnología que permite crear falsificaciones también ofrece herramientas para combatirlas. Mantener el pensamiento crítico es la mejor defensa en la era de los contenidos sintéticos.
