Investigadores del Observatorio de Contenidos Audiovisuales (OCA) de la Universidad de Salamanca, junto a la Fundación Al Fanar para el Conocimiento Árabe y con el apoyo del Centro de Supercomputación de Castilla y León, analizarán de forma masiva en Facebook y Twitter la propagación de mensajes ofensivos y de odio contra la comunidad musulmana en España.

El objetivo es evaluar un detector automatizado de este tipo específico de discurso de odio para que pueda ser utilizado en la detección temprana de amenazas y en pro de la tolerancia social.

El proyecto, denominado ISHADE (ISlamophobic HAte DEtector), está dirigido por el profesor Carlos Arcila y se beneficia de las ayudas de la Fundación Pluralismo y Convivencia.

Según el profesor Arcila, el detector propuesto se desarrollará en tres fases: la primera será la búsqueda activa de mensajes islamófobos en redes sociales que servirán como ejemplos para los futuros modelos; la segunda será la construcción de un diccionario de términos islamófobos; y la tercera el desarrollo y evaluación de un modelo de clasificación supervisada de textos con los ejemplos de la primera fase. Todas las técnicas se implementarán en Caléndula, el supercomputador de Scayle, en Castilla y León.

Métodos computacionales

Este proyecto se enmarca en una línea de investigación iniciada por el OCA hace ya 5 años, en la que se ha priorizado el uso de métodos computacionales para tratar de detectar y monitorizar automáticamente los discursos de odio propagados en línea y a gran escala. En 2020 los mismos investigadores monitorizaron el discurso de odio contra inmigrantes en Twitter y este año han controlado también el odio contra la comunidad LGTBI en torno a las discusiones en redes sociales sobre la denominada 'Ley Trans'.

De manera paralela al desarrollo de este detector se organizarán jornadas de sensibilización y capacitación en las que diversos expertos en el tema impartirán seminarios destinados a docentes y a jóvenes usuarios de redes sociales, con el objetivo de hacerles tomar partido para contrarrestar el odio islamófobo.

Inteligencia artificial

Las actividades del proyecto se desarrollarán a lo largo 2023, comenzando con el diseño del detector automatizado que identificará el discurso de odio islamófobo, siguiendo una estrategia de detección a gran escala basada en el cómputo intensivo de datos y utilizando procesamiento de lenguaje natural y diferentes técnicas de aprendizaje automático supervisado.

Será posible a través de la recolección de grandes bases de datos obtenidas mediante la interfaz de programación de aplicaciones (API) de Twitter y Facebook, las cuales permiten recuperar mensajes publicados en estas redes sociales para su posterior análisis y clasificación.

Toda esta información, después de ser procesada, analizada y clasificada, permitirá desarrollar algoritmos para que el superordenador Caléndula, ubicado en León, logre identificar y clasificar los mensajes en las redes sociales, y de esta manera genere alertas frente al incremento de discursos de odio tanto en histórico como en tiempo real.