Tres modalidades operativas: audio clonado para llamadas y notas de voz (la más usada en fraude por su bajo coste), vídeo en tiempo real con face-swap para videollamadas, e imágenes estáticas para falsificar documentos de identidad o pasar verificaciones KYC.
¿Qué es un deepfake?
Un deepfake es contenido sintético de audio, vídeo o imagen generado con IA que suplanta de forma realista la voz o la apariencia de una persona real. Con unos segundos de audio público basta para clonar una voz, y con el material que cualquier directivo tiene en LinkedIn, notas de prensa o webinars se fabrica un vídeo creíble en horas. Es la evolución tecnológica de la ingeniería social: ataques clásicos como el fraude del CEO o el vishing ahora llegan con la voz y la cara de alguien en quien la víctima confía.
¿Por qué importa?
Porque rompe el mecanismo de verificación en el que todos confiábamos sin darnos cuenta: reconocer a la otra persona. El caso Arup (Hong Kong, 2024) lo dejó claro: un empleado de finanzas transfirió unos 25 millones de dólares tras una videollamada en la que el "CFO" y varios "colegas" eran deepfakes en tiempo real. Las herramientas de clonación de voz son públicas, baratas y necesitan muy poco material de partida, que los atacantes recolectan por OSINT. El impacto va más allá del fraude al pago: los deepfakes se usan para saltarse verificaciones de identidad KYC en banca, para el spoofing de procesos de contratación remota con candidatos falsos, y para campañas de desprestigio contra directivos y marcas. El regulador ya ha reaccionado: el Reglamento europeo de IA (EU AI Act) impone en su artículo 50 obligaciones de transparencia — quien genere o difunda deepfakes debe etiquetarlos como contenido artificial — y NIS2 exige formación en ciberhigiene que hoy no puede ignorar esta amenaza.
Puntos clave
Fraude del CEO 2.0: el BEC clásico pedía la transferencia por email; ahora el email se refuerza con una llamada o videollamada deepfake que desactiva la sospecha. La urgencia y la confidencialidad siguen siendo las señales de alarma, aunque la voz sea perfecta.
Ataques a la verificación de identidad: los deepfakes se inyectan en procesos de onboarding digital mediante cámaras virtuales (ataque de inyección) o mostrando la imagen a cámara (ataque de presentación). Los proveedores de identidad responden con detección de vida (liveness) activa y pasiva, con eficacia desigual.
La detección técnica ayuda pero no basta: los detectores de artefactos pierden eficacia con cada generación de modelos, y en una llamada en directo nadie ejecuta un análisis forense. Estándares de procedencia como C2PA (Content Credentials) marcan el contenido legítimo, pero su adopción aún es parcial.
Los controles que funcionan son de proceso, no de percepción: verificación fuera de banda (colgar y llamar a un número conocido), doble aprobación para pagos y cambios de cuenta bancaria, y límites que ninguna orden verbal puede saltarse, venga de quien venga.
Marco legal en Europa: el artículo 50 del EU AI Act obliga a etiquetar el contenido generado o manipulado por IA, y usar un deepfake para defraudar o suplantar constituye delito con independencia de la herramienta. La transparencia es obligación del que genera; la verificación sigue siendo responsabilidad del que paga.
Ejemplo: fraude del CEO con videollamada deepfake
Un responsable de tesorería recibe un email del CFO anunciando una operación corporativa confidencial y convocándole a una videollamada con el equipo directivo. En la llamada ve y oye al CFO y a dos directivos más, que le piden ejecutar varias transferencias a cuentas nuevas antes del cierre del día. Todo encaja: las caras, las voces, el contexto de la operación (construido con información pública y algún email comprometido previamente). Ejecuta las transferencias. Ninguno de los participantes era real: eran deepfakes en tiempo real operados por los atacantes, calcados al caso Arup.
Lo que habría cortado el fraude no es un detector de deepfakes, sino el proceso: una política que exige verificar por un canal independiente (llamada al móvil conocido del CFO) cualquier pago urgente o cambio de cuenta, doble aprobación obligatoria por encima de cierto importe sin excepciones "por confidencialidad", y formación específica que enseñe que ver y oír a alguien ya no es verificar su identidad. Si el fraude llega a ejecutarse, cada minuto cuenta: activar el protocolo de respuesta a incidentes y contactar de inmediato con el banco puede permitir retener los fondos antes de que se dispersen.
Errores habituales
- Confiar en reconocer la voz o la cara como método de verificación. Es exactamente lo que el deepfake falsifica; la identidad se verifica por un canal independiente o con un factor que el atacante no puede clonar.
- Formar contra el phishing por email e ignorar voz y vídeo. Si la concienciación no incluye llamadas, notas de voz y videollamadas falsas, el empleado bajará la guardia justo en los canales donde el ataque es más convincente.
- Mantener procesos de pago con excepciones de urgencia: si una orden verbal del CEO puede saltarse la doble aprobación, el deepfake del CEO también puede. Los controles valen lo que vale su peor excepción.
- Delegar el problema en herramientas de detección automática. Sus tasas de error crecen con cada generación de modelos y no operan en una conversación en directo; son un complemento, no un control principal.
- No tener plan para el escenario inverso: un deepfake de tu propio CEO anunciando algo falso a empleados, clientes o mercado. Sin un protocolo de comunicación y desmentido preparado, la reacción llega tarde.
Términos relacionados
Servicios relacionados
Este concepto puede tener relación con servicios como:
Preguntas frecuentes
Soy responsable financiero: ¿cómo evito autorizar una transferencia ordenada por un deepfake de mi CEO?
Con controles de proceso que no dependan de reconocer a nadie. Primero, verificación fuera de banda obligatoria: ante cualquier pago urgente o cambio de cuenta, se cuelga y se llama al número conocido del solicitante — nunca al que aparece en el mensaje. Segundo, doble aprobación por encima de un umbral, sin excepción posible por urgencia o confidencialidad: esas dos palabras son precisamente la firma de la ingeniería social. Tercero, cultura: el empleado que frena un pago para verificar debe ser felicitado, no penalizado. El caso Arup demuestra que una videollamada con varios directivos "presentes" ya no prueba nada.
¿Pueden clonar la voz de nuestros directivos con los vídeos que publicamos en LinkedIn o YouTube?
Sí, y con muy poco material: las herramientas actuales de clonación generan una voz convincente a partir de unos segundos de audio limpio, y un webinar o una entrevista dan de sobra. Retirar todo el contenido público no es realista para ningún directivo con presencia comercial, así que la respuesta no es esconderse sino asumir que la voz y la imagen son clonables. Eso significa trasladar la confianza a factores no clonables: canales verificados, palabras clave acordadas para emergencias familiares o corporativas, y procesos de pago que no acepten órdenes verbales. Un ejercicio de OSINT sobre vuestros propios directivos ayuda a saber qué material tiene disponible un atacante.
¿Qué exige el Reglamento europeo de IA (EU AI Act) respecto a los deepfakes?
El artículo 50 impone obligaciones de transparencia: los proveedores de sistemas que generan contenido sintético deben marcarlo de forma detectable (por ejemplo con marcado técnico tipo watermarking), y quien difunda un deepfake debe declarar que el contenido ha sido generado o manipulado artificialmente, con excepciones tasadas (uso creativo evidente, sátira). Estas obligaciones son plenamente aplicables desde agosto de 2026, con sanciones significativas por incumplimiento. Para una empresa esto corta en dos direcciones: si usáis IA generativa en marketing o comunicación, tenéis deberes de etiquetado; y si sufrís un deepfake, la norma refuerza la ilicitud del contenido. Nuestro servicio de cumplimiento del EU AI Act cubre ambos frentes.
¿Cómo verifico la identidad de alguien en una videollamada si sospecho que es un deepfake?
Los trucos visuales (pedir que gire la cabeza, que pase la mano por la cara) funcionan cada vez peor contra los modelos en tiempo real, así que no confíes en ellos como única barrera. Lo fiable es salir del canal: propón continuar por una vía que tú inicies — llamar tú a su número de siempre, escribir por el canal corporativo interno — o valida un dato que solo la persona real conoce y que no esté publicado ni en ningún email comprometible. En contextos de alto riesgo (pagos, accesos, RRHH con candidatos remotos) el protocolo debe estar escrito de antemano: decidir cómo verificar en mitad de la llamada, bajo presión, es exactamente el escenario que el atacante ha ensayado y tú no.