Alertan sobre el uso de IA para crear imágenes íntimas falsas y difunden una herramienta gratuita para frenarlo

El avance de la inteligencia artificial abrió nuevas posibilidades tecnológicas, pero también generó riesgos cada vez más preocupantes. Uno de ellos es la creación de imágenes o videos íntimos falsos (conocidos como deepfakes), que pueden realizarse a partir de una simple fotografía y difundirse en cuestión de minutos sin el consentimiento de la persona afectada.

Ante esta problemática, la empresa especializada en ciberseguridad EndPoint Security difundió información sobre una herramienta gratuita que puede ayudar a limitar la circulación de este tipo de contenido cuando involucra a menores de 18 años.

Se trata de Take It Down, una plataforma desarrollada por el National Center for Missing & Exploited Children (NCMEC), que permite generar una “huella digital” (hash) de una imagen o video. De esta manera, las plataformas adheridas pueden detectar coincidencias y colaborar para bloquear o retirar ese contenido antes de que siga circulando.

Uno de los aspectos más importantes de la herramienta es que la imagen o el video no se suben a Internet. El sistema crea únicamente una firma digital única del archivo, preservando la privacidad de la víctima durante todo el proceso.

Desde EndPoint Security remarcaron que Take It Down no elimina automáticamente el contenido de todas las plataformas, sino que funciona como una herramienta de apoyo para reducir su difusión. Por eso, también recomiendan conservar las pruebas, denunciar el contenido en la red social o sitio donde fue publicado y, si corresponde, realizar la denuncia ante las autoridades competentes.

Los especialistas advierten que este tipo de manipulaciones mediante inteligencia artificial son cada vez más frecuentes y pueden afectar gravemente la privacidad, la reputación y la salud emocional de las víctimas, especialmente cuando se trata de niños, niñas y adolescentes.

Por ese motivo, insisten en la importancia de conocer las herramientas disponibles, hablar sobre estos riesgos y promover un uso responsable de la tecnología.