Un equipo del grupo PRHLT de la Universitat Politècnica de València (UPV) ha desarrollado un sistema de inteligencia artificial que ayuda a detectar contenidos sexistas en memes y vídeos de TikTok. El modelo combina el análisis textual y visual con señales fisiológicas de las personas que observan estos contenidos.
El objetivo es mejorar la identificación de mensajes que resultan difíciles de clasificar porque el sexismo aparece de forma implícita. Puede esconderse tras el humor, la ironía, los estereotipos o comentarios aparentemente inofensivos. La investigación amplía así las líneas de trabajo en inteligencia artificial desarrolladas en la UPV durante los últimos años.
«Muchas veces, tanto en los memes como en los videos de TikTok, existen contenidos en los que el sexismo aparece camuflado mediante el humor, la ironía, los estereotipos o comentarios aparentemente inofensivos», explica Iván Arcos, investigador del PRHLT.
Según Arcos, interpretar correctamente estos contenidos obliga a analizar de forma conjunta el lenguaje, los textos que aparecen en pantalla, las imágenes, los gestos y el contexto. El investigador sostiene que el nuevo sistema permite detectar estos mensajes con mayor eficacia que los modelos que trabajan únicamente con el contenido publicado.
La mirada y la actividad cerebral cambian ante contenidos sexistas
Para desarrollar el sistema, el equipo ha analizado alrededor de 4.000 memes y 2.500 vídeos de TikTok, tanto en español como en inglés. Los contenidos proceden de los conjuntos de datos de EXIST, una competición internacional centrada en la detección de sexismo en redes sociales.
En el estudio participaron diez personas para el análisis de vídeos y dieciséis para el de memes. Durante la visualización, el equipo registró sus respuestas mediante seguimiento ocular, electroencefalografía (EEG) y medición del ritmo cardíaco.
La investigación ha detectado diferencias entre las reacciones provocadas por contenidos sexistas y no sexistas. Los vídeos con sexismo generaron mayores tiempos de reacción y más fijaciones de la mirada. También aumentaron los movimientos rápidos de los ojos y los parpadeos, mientras que el ritmo cardíaco presentó mayores fluctuaciones.
Los investigadores relacionan estas diferencias con una mayor carga cognitiva. Cuando el mensaje resulta ambiguo, el espectador necesita buscar más pistas en el texto, los gestos o el contexto antes de interpretar su significado.
El trabajo del grupo PRHLT de la Universitat Politècnica de València también ha identificado cambios en la actividad cerebral. Cuando las personas veían vídeos sexistas, las ondas lentas —delta, theta y alfa— reducían su intensidad en determinadas zonas centrales y parietales.
Según explica Arcos, esta reducción se relaciona con un mayor nivel de atención. Las ondas alfa son más intensas cuando el cerebro está relajado y disminuyen cuando aumenta la concentración.
En cambio, los vídeos que muestran o juzgan situaciones sexistas provocaron un aumento de ondas rápidas, como beta y gamma, en zonas frontales y del lado derecho de la cabeza. Los investigadores vinculan este comportamiento con un razonamiento más elaborado para determinar la intención de quien publica el contenido.
La información fisiológica mejora la capacidad del modelo
A partir de estas diferencias, el equipo ha desarrollado un modelo que integra las señales fisiológicas con la información textual y visual de los vídeos. El trabajo se ha presentado en el XLII Congreso Internacional de la Sociedad Española de Procesamiento del Lenguaje Natural.
La incorporación de las respuestas fisiológicas ha mejorado aproximadamente un 4 % la detección de si un vídeo es sexista o no frente a un sistema basado únicamente en texto e imágenes. La mejora supera el 6 % en tareas como diferenciar entre sexismo directo y valorativo y clasificar distintas categorías.
Los resultados son especialmente significativos en los casos más ambiguos, en los que resulta necesario interpretar la intención del mensaje. En los memes, la mejora ha alcanzado el 26,3 % en la categoría más difícil de identificar, correspondiente a misoginia y violencia no sexual.
Paolo Rosso, catedrático del Departamento de Sistemas Informáticos y Computación de la UPV y miembro de ValgrAI, señala que las mayores mejoras aparecen precisamente en los contenidos más difíciles de interpretar. El sistema podría servir en el futuro como apoyo a las plataformas digitales para localizar mejor el sexismo implícito o camuflado y facilitar su moderación.
