¿Qué son los deepfakes? Cómo detectarlos y protegerte

Puntos clave

• Los deepfakes utilizan IA para crear o alterar la apariencia o la voz de alguien, haciendo que un contenido fabricado parezca auténtico.
• Las anomalías visuales y de audio pueden despertar sospechas, pero los deepfakes convincentes pueden no presentar defectos evidentes.
• Comprobar la fuente y confirmar las solicitudes a través de un canal independiente y de confianza es más fiable que juzgar solo por la apariencia.

Los deepfakes son vídeos, imágenes o audios generados o alterados mediante IA que hacen parecer que alguien dice o hace algo que en realidad no dijo ni hizo. Para detectarlos, combina una inspección cuidadosa con la comprobación de las fuentes y una verificación independiente: ningún indicio visual ni herramienta de detección puede demostrar por sí solo la autenticidad.

Cómo funciona

Los sistemas de deepfakes aprenden patrones de rostros, voces y movimientos, y luego los utilizan para generar o modificar contenido multimedia. Según el método, pueden sustituir un rostro, imitar una voz, cambiar los movimientos de los labios o animar una imagen estática.

Entre las formas más habituales se incluyen:

• Intercambio de rostros: Sustituir el rostro de una persona por el de otra.
• Manipulación de la sincronización labial: Cambiar los movimientos de la boca para que coincidan con una pista de voz diferente.
• Clonación de voz: Generar habla que se asemeje a la voz de una persona concreta.
• Retratos y avatares sintéticos: Crear una persona que no existe o hacer que un retrato hable.

No todo el contenido generado mediante IA es un deepfake engañoso. Un personaje ficticio claramente identificado como tal es diferente de una grabación fabricada que se presenta como prueba de que una persona real dijo algo.

Del mismo modo, no todos los vídeos engañosos utilizan IA. Un vídeo antiguo con una descripción falsa, un montaje selectivo o unas imágenes ralentizadas pueden engañar al público sin recurrir a la tecnología deepfake. En cualquier caso, es importante determinar el contexto original.

Ejemplos del mundo real

Estos ejemplos ilustran usos y riesgos habituales, no incidentes concretos documentados.

Una llamada urgente de un «familiar». Alguien recibe un mensaje de voz angustiado que pide dinero para una emergencia. La voz resulta familiar, pero podría estar clonada. Llamar al familiar a su número guardado es más seguro que continuar a través del contacto desconocido.

Una instrucción falsa de un directivo. Un empleado recibe un vídeo o un mensaje de voz aparentemente de un alto directivo que solicita un pago confidencial. Las señales de alerta más claras pueden ser la urgencia, el secretismo y un procedimiento de pago inusual, no un rostro distorsionado.

Una declaración pública fabricada. Un vídeo parece mostrar a un político o a un líder empresarial haciendo un anuncio incendiario. Antes de compartirlo, busca la grabación completa, quién la publicó originalmente e información de fuentes independientes.

Un personaje que habla para impartir formación. Una empresa utiliza una imagen autorizada y una pista de voz para crear un presentador de formación identificado como sintético. Herramientas como Hedra pueden generar vídeos de personajes expresivos que hablan a partir de una imagen y una pista de voz. Esta capacidad tiene usos legítimos cuando se gestiona adecuadamente el consentimiento y se informa con transparencia.

Una imagen de perfil engañosa. Un retrato sintético ayuda a alguien a presentar una identidad falsa en internet. Sin embargo, un retrato de aspecto inusual no demuestra por sí solo que exista fraude; las fotografías auténticas también pueden contener anomalías de edición, compresión o iluminación.

Ventajas y limitaciones

El contenido sintético puede facilitar la producción cinematográfica, la comunicación accesible, la localización y la creación de contenido educativo. Los creadores pueden elaborar prototipos de escenas o crear presentadores ficticios sin organizar un rodaje convencional para cada versión.

Por ejemplo, Runway (Gen-3 Alpha) permite generar vídeos a partir de texto e imágenes. Estas herramientas ofrecen capacidades creativas útiles, pero su existencia no permite saber si un vídeo sospechoso concreto se creó con ellas.

Los riesgos incluyen la suplantación de identidad, el fraude financiero, los daños a la reputación y las imágenes íntimas no consentidas. El consentimiento para utilizar la fotografía de alguien no implica automáticamente el consentimiento para clonar su voz o representarlo en una escena fabricada.

La detección también tiene limitaciones importantes:

• Las anomalías no son constantes. Los dientes extraños, los bordes parpadeantes o los movimientos labiales desincronizados pueden ser indicios, pero el contenido más reciente o elaborado con cuidado puede evitarlos.
• El contenido real puede parecer artificial. La mala iluminación, los filtros, la compresión y los retrasos de conexión pueden crear problemas similares.
• Las herramientas de detección pueden equivocarse. Un detector puede marcar material auténtico como sospechoso o no detectar contenido generado.
• La falta de información sobre la procedencia demuestra poco. La ausencia de una marca de agua o de una credencial de contenido no demuestra que algo sea falso.

Considera la detección como una recopilación de pruebas, no como un veredicto de sí o no basado en un único indicio.

Cómo empezar

Utiliza esta lista de comprobación siempre que un vídeo, una imagen o un mensaje de voz pueda afectar a tu dinero, tu reputación o tu seguridad.

1. Haz una pausa antes de actuar

Ten especial cuidado cuando el contenido provoque pánico, indignación o incluya una exigencia urgente. No envíes dinero, reveles contraseñas ni compartas el vídeo simplemente porque parezca convincente.

Una instrucción para eludir las comprobaciones habituales es una señal de alerta, aunque el rostro y la voz de la persona parezcan auténticos.

2. Examina el contenido en su contexto

En los vídeos, presta atención a los detalles faciales que cambian entre fotogramas, las gafas o joyas inestables, la iluminación incoherente y los movimientos de la boca que no coinciden con el habla.

En las imágenes, examina los reflejos, las sombras, el texto y los contornos de los rostros u objetos. En los audios, escucha si hay cambios bruscos de tono, un ritmo poco natural o sonidos de fondo incoherentes.

Son motivos para investigar, no pruebas. Un fotograma congelado también puede hacer que una expresión corriente parezca extraña.

3. Encuentra la fuente original

Averigua quién publicó primero el material y si puedes localizar una versión más larga o de mayor calidad. Comprueba la fecha de publicación, el historial de la cuenta y el contexto.

Una búsqueda inversa de imágenes puede revelar que una imagen es más antigua de lo que se afirma o que se ha copiado de otra fuente. Buscar frases distintivas de un vídeo puede ayudar a localizar el discurso original. Sin embargo, ningún resultado de búsqueda garantiza la autenticidad.

4. Verifica a través de un canal independiente

Si alguien solicita dinero o información sensible, contacta con esa persona mediante un número o una cuenta en los que ya confíes. No te fíes de los datos de contacto proporcionados en el mensaje sospechoso.

En el trabajo, sigue los procedimientos establecidos para aprobar pagos. En el ámbito familiar, considera acordar una frase de verificación, pero no la conviertas en tu única medida de protección.

5. Utiliza las herramientas de detección con cautela

Deepfakedetector.ai ofrece detección de contenido sintético e imágenes generadas. Sus resultados pueden respaldar una investigación, pero no deberían ser tu única base para acusar a alguien o aprobar una transacción.

Antes de subir cualquier archivo, revisa las condiciones de privacidad y conservación de datos del servicio. Evita enviar documentos confidenciales, grabaciones sensibles o imágenes privadas de otras personas sin el permiso correspondiente.

6. Conserva y denuncia el contenido sospechoso

Conserva el mensaje original, los datos de la cuenta y las marcas de tiempo pertinentes cuando sea seguro y legal. Denuncia la suplantación de identidad a la plataforma y comunica los incidentes laborales a tu equipo de seguridad.

Si has enviado dinero, contacta inmediatamente con tu banco o proveedor de pagos. Evita volver a publicar contenido dañino únicamente para advertir a otras personas.

Preguntas frecuentes

¿Se puede detectar un deepfake solo con mirarlo?

A veces puedes percibir detalles sospechosos, pero la apariencia por sí sola no es fiable. Las grabaciones auténticas pueden contener anomalías, mientras que un deepfake convincente puede parecer normal. Comprobar las fuentes y obtener una confirmación independiente aporta pruebas más sólidas.

¿Son precisos los detectores de deepfakes?

La precisión varía según el detector, la calidad del contenido y el método de generación. El recorte, la compresión o las técnicas desconocidas para el detector pueden afectar a los resultados. Considera cualquier puntuación como una señal para investigar, no como una probabilidad definitiva de que el contenido sea falso.

¿Qué debo hacer si alguien crea un deepfake de mí?

Conserva las pruebas sin difundir el material, denuncia la cuenta o el contenido y avisa a las personas que puedan ser objeto del engaño. Si se trata de una suplantación en el ámbito laboral, involucra a tu equipo de seguridad. Si hay amenazas, extorsión o imágenes íntimas, busca asistencia jurídica o apoyo a víctimas adecuado en tu localidad.