Hoy basta una fotografía, unos segundos de voz o un video publicado en redes sociales para que una herramienta de inteligencia artificial genere contenido que parezca real. A este tipo de material manipulado se lo conoce como deepfake. Puede utilizarse con fines creativos o humorísticos, pero también para suplantar identidades, acosar, difamar o intentar cometer fraudes.

El problema no está únicamente en que el contenido sea falso, sino en lo convincente que puede resultar para otras personas. ESET Latinoamérica señala que las herramientas de inteligencia artificial generativa han vuelto mucho más rápido, económico y sencillo crear este tipo de piezas, por lo que cualquier usuario puede encontrarse ante una imagen, un audio o un video suyo que nunca autorizó.

Lo primero: no borres las pruebas
Aunque la reacción inmediata pueda ser pedir que el contenido desaparezca cuanto antes, conviene documentarlo primero. ESET recomienda guardar capturas de pantalla, la dirección web o URL, el nombre de la cuenta que publicó el material, la fecha y la hora en que fue encontrado, además de cualquier texto que acompañe la publicación. Esa información puede ser útil al presentar un reporte ante la plataforma, el sitio web o una autoridad.

También es preferible evitar discusiones públicas con la persona que difundió el contenido. Interactuar con la publicación puede darle mayor visibilidad o provocar que se replique antes de que pueda ser reportada.

¿Dónde se puede denunciar?
Las principales redes sociales cuentan con mecanismos de reporte, aunque no todas utilizan la palabra “deepfake”. En esos casos, la denuncia debe explicar qué daño provoca el contenido: por ejemplo, suplantación de identidad, acoso, fraude, información falsa o vulneración de la privacidad.

Facebook, Instagram, TikTok, YouTube y X permiten reportar publicaciones o solicitar revisiones por este tipo de situaciones. TikTok, por ejemplo, incluye una categoría específica para medios sintéticos o manipulados. YouTube dispone de un proceso de reclamación de privacidad cuando contenido alterado con inteligencia artificial parece o suena como una persona real.

Google también permite solicitar que determinados resultados sean retirados de su buscador. Sin embargo, hay una diferencia importante: sacar un resultado de Google puede hacer que el contenido sea más difícil de encontrar, pero no necesariamente elimina el archivo original del sitio donde está alojado.

Cuando el contenido es íntimo, la respuesta debe ser más rápida
Si se trata de una imagen o un video íntimo publicado sin consentimiento, existen herramientas especializadas. StopNCII.org genera una huella digital del archivo sin necesidad de subir públicamente el contenido y permite que plataformas participantes identifiquen posibles copias. Para imágenes o videos de menores de 18 años, TakeItDown.NCMEC.org utiliza un sistema similar.

Si el contenido continúa disponible en una página web, puede ser necesario contactar directamente al responsable del sitio, a su área legal o de privacidad, solicitar la eliminación y conservar por escrito la respuesta. La legislación aplicable dependerá del país y del uso que se haya dado al material.

No basta con decir “esto fue hecho con IA”
“La clave no es simplemente afirmar que el contenido fue generado con IA, sino especificar exactamente por qué es problemático: fraude, acoso, suplantación de identidad, entre otros.” — Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica.

En la práctica, esto significa que una denuncia clara suele ser más útil que una explicación técnica. Indicar quién aparece en el contenido, por qué no existe consentimiento y qué consecuencia puede generar facilita que la plataforma entienda el caso.

La expansión de los deepfakes obliga a mirar con más atención lo que vemos y escuchamos en Internet, pero también a conocer las herramientas disponibles para reaccionar. Para ESET, conservar evidencia, reportar en varios frentes y explicar con precisión el daño son tres pasos fundamentales para recuperar el control cuando la imagen o la voz de una persona se utilizan sin permiso.