Detenidos en España dos personas por distribuir imágenes de abuso infantil generadas con IA

La Policía Nacional ha detenido en las provincias de Madrid y Barcelona a dos de los veinticinco miembros de una organización dedicada a distribuir imágenes de abuso infantil generadas por inteligencia artificial (IA) arrestados en una operación de Europol. Los agentes han llevado a cabo treinta y tres registros domiciliarios, cuatro de ellos en España, concretamente en las provincias de Madrid, Barcelona, Jaén y Málaga, y han incautado 173 dispositivos electrónicos, ocho de ellos en territorio español con 16.800 archivos, según informa EFE.

Se trata de uno de los primeros casos en los que se investiga material de abuso sexual infantil generado íntegramente por inteligencia artificial, según ha explicado la Dirección General de la Policía.

Las detenciones han tenido lugar en el marco de una operación internacional contra la explotación sexual infantil que aún continúa abierta, por lo que no se descartan nuevas detenciones.

La investigación comenzó a raíz de la detención en 2024 de un ciudadano danés que dirigía una plataforma 'online' a través de las que se distribuía material generado por inteligencia artificial que producía previamente. Después de realizar un pago simbólico en línea, usuarios de todo el mundo podían obtener una contraseña para acceder al material de esta plataforma donde podían visualizar abusos a menores.

En el curso de las pesquisas, Europol y el Grupo de Trabajo Conjunto de Acción contra la Ciberdelincuencia proporcionaron coordinación operativa a las autoridades implicadas. Asimismo, el Centro Europeo de Ciberdelincuencia de Europol facilitó el intercambio de información a los investigadores de los diferentes países involucrados en la operación, informa EFE.

La Policía advierte de que la explotación sexual infantil 'online' sigue siendo una de las mayores amenazas del delito cibernético en la Unión Europea y su erradicación es uno de los principales retos de las autoridades, que se enfrentan a un volumen cada vez mayor de este tipo de contenido ilegal. El material de abuso sexual infantil autogenerado constituye una parte importante del total detectado.

Los delincuentes se sirven de modelos de inteligencia artificial capaces de generar o alterar imágenes para producir este material y para la extorsión sexual. Estos modelos están ampliamente disponibles y se han desarrollado rápidamente con resultados que actualmente se parecen cada vez más a las imágenes reales, lo que hace que sea más difícil identificarlos como material generado por inteligencia artificial, lo que plantea importantes desafíos a las autoridades a la hora de identificar a las verdaderas víctimas.

Incluso en los casos en los que el contenido es íntegramente generado por inteligencia artificial y no se representa a ninguna víctima real, como en esta operación, sigue contribuyendo a la cosificación y sexualización de los niños, aclara la Policía Nacional.

La Policía anuncia que Europol lanzará en los próximos días una campaña 'online' en la que se subrayan las consecuencias del uso de la inteligencia artificial con fines ilegales. Para ello se utilizarán mensajes en línea para llegar a los compradores de contenido ilegal así como llamadas telefónicas y mensajes en las redes sociales.