Un equipo investigador de la Universidad Pública de Navarra (UPNA) ha desarrollado S-Xenometer, una herramienta que utiliza inteligencia artificial para identificar y clasificar mensajes xenófobos en la red social X. Este proyecto, en colaboración con la Universidad de Cornell, busca crear un mapa global de xenofobia online, proporcionando un sistema de alerta temprana para políticas de intervención.
El S-Xenometer, liderado por la profesora Beth Lyon de la Universidad de Cornell, evalúa el nivel de xenofobia de mensajes en X mediante una escala de siete categorías. El objetivo es generar mapas en tiempo real que reflejen la situación en diferentes regiones. Para lograrlo, se pretende automatizar el etiquetado de mensajes y analizar cuentas representativas de cada país.
Importancia de equipos interdisciplinares en la investigación social
El equipo investigador de la UPNA subraya la relevancia de los grupos interdisciplinares para evitar sesgos en la investigación social con IA. Cuando la inteligencia artificial se utiliza sin un análisis crítico, puede introducir sesgos al entrenar algoritmos con datos creados por ellos mismos. Además, el análisis social sin comprensión de la IA puede resultar superficial.
El proyecto cuenta con la participación de otras universidades, como la Universidad Cooperativa de Colombia y la UCA en El Salvador, y se espera que se unan más instituciones de Bolivia, Polonia y Sudáfrica. El Xenometer no es solo un proyecto, sino una herramienta para capacitar equipos multidisciplinarios en el uso de IA y ciencia de datos.
Metodología y retos del proyecto S-Xenometer
La metodología del proyecto consistió en descargar y clasificar cerca de 5.000 mensajes relacionados con la migración en X. Un equipo de 12 personas de la UPNA, entre estudiantes y profesores, trabajó en la clasificación de estos mensajes. Se utilizaron criterios como cuentas de políticos influyentes y palabras clave sobre migración.
Uno de los principales desafíos del proyecto ha sido consolidar un equipo interdisciplinar y establecer un ritmo adecuado de etiquetado. Además, se enfrentaron a dificultades para alcanzar consensos en el etiquetado de los mensajes. Sin embargo, el equipo continúa trabajando para perfeccionar el algoritmo y mejorar su precisión.
Futuro del proyecto: Alcance y automatización
El equipo investigador planea ampliar el alcance del proyecto, mejorando la representatividad y automatización del etiquetado en redes sociales. También se busca generar mapas y aplicar el enfoque metodológico a otros fenómenos sociales, como la polarización y la radicalización. La precisión del algoritmo sigue siendo un área de mejora.
Sergio García Magariño, investigador principal del Xenómetro en la UPNA, destaca que el enfoque metodológico podría aplicarse a otros fenómenos sociales de interés, como el discurso de odio en línea y la polarización. Estos aspectos son de gran interés para las autoridades del Estado español.
