TIEMPOS DE GUERRA (semántica). Toxicidad vs odio en una gobernanza digital (des)proporcionada

En redes sociales, a menudo confundimos los gritos (de odio) con las heridas (tóxicas). El lenguaje malsonante es visible, contable, punible. ¡Eso está claro desde hace tiempo! Sin embargo, el odio real, ese que deshumaniza, niega derechos colectivos y siembra miedos duraderos, ha aprendido a disfrazarse mejor que Mortadelo en las archiconocidas viñetas del gran Francisco Ibáñez. Esta es la lección (más) incómoda que arroja nuestro análisis computacional de 798.619 publicaciones en español geolocalizadas en España (cuando fue posible) entre el 1 de abril y el 13 de agosto de 2024 en X, Facebook, Instagram y TikTok. ¿Conclusión? La “toxicidad” lingüística y el “odio” dirigido no son la misma cosa, y su acoplamiento varía (radicalmente) según la plataforma y la comunidad a la que se dirige (estigmatizada y/o vulnerable).

Este estudio, que forma parte del proyecto COIN, parte de donde empieza cualquier medición responsable [sí, los investigadores tenemos un compromiso y una responsabilidad con nuestra/s sociedad/es]: definir con precisión el objeto (y el sujeto). El antisemitismo, de igual forma que la islamofobia, no es/son un comodín (ni un AS en la manga). Es una ideología moderna/ista, de genealogía decimonónica, distinta de la judeofobia religiosa y no reducible a etiquetas étnicas (“semita”). De ahí la necesidad de distinguir entre término y concepto. En esta marabunta de desinformación, polarización y extremismo, nuestro deber consiste en evitar retroproyecciones y justificar nuestra propuesta (académica/científica) mediante la creación de un codebook histórico- operativo que convierta la/s teoría/s y el soft law en reglas observables y tangibles. En esta era, necesitamos – más aún por la inmediatez, rapidez y capacidad de difusión de los mensajes – separar el odio de la crítica política e ideológica en torno a Israel/Palestina. De ahí que triangulemos las definiciones de antisemitismo propuestas por IHRA, Nexus y JDA con nuestro trabajo de campo/empírico. Cualquier tipo de conspiración sobre el “poder judío”, la doble lealtad, la culpabilización colectiva, la negación o banalización de la Shoá, la negación del derecho del pueblo judío a existir o las analogías nazis deshumanizadoras sí constituye antisemitismo. Sin embargo, nuestra investigación deja claro que no lo hace, per se, la crítica factual a las políticas de Israel, el apoyo a los derechos palestinos o las estrategias no violentas como BDS, cuando no median en ellas determinados estereotipos. Por lo tanto, ¿por qué no ejercer nuestro derecho legítimo a la libertad de expresión y a la capacidad crítica contra políticas o acciones agresivas con las que no estamos de acuerdo? Esto no es odio, es determinación. En paralelo, no se puede entender qué significa antisemitismo si no operacionalizamos el antiislamismo conforme a la OSCE/ODIHR y la ECRI.

Con ese andamiaje teórico/empírico/histórico/jurídico combinamos seis atributos de la API Perspective (toxicidad, toxicidad severa, insultos, blasfemia, ataques a la identidad, amenazas) con clasificadores BERT multilingües por colectivo (antisemitismo F1=0,89, α=0,79; islamofobia F1=0,86), entrenados sobre corpus anotados con reglas positivas/negativas derivadas del marco IHRA–Nexus– JDA. El resultado es un pipeline auditable — desde la genealogía conceptual hasta la predicción — que reduce los falsos positivos ante la crítica dura y detecta formas implícitas de hostilidad.

¿Qué quiere decir esto?

Pues que los datos que arrojan nuestras investigaciones incomodan. Fuera de X, “toxicidad” y “odio” apenas se tocan. Para antisemitismo, r=.32 en X; −.02 en Facebook; .20 en Instagram; .04 en TikTok. Para islamofobia: .28, .14, .11 y .04, respectivamente (p<.01, salvo coeficientes cercanos a cero). ¿Traducción? Facebook y TikTok albergan altas probabilidades de odio con baja señal léxica; X concentra el mayor acople “léxico-odio” e Instagram se mantiene relativamente bajo en ambos ejes. En definitiva, el núcleo tóxico en redes sociales gira en torno al binomio “insulto–ataque a la identidad”, debido a su alta estabilidad (p. ej., toxicidad–insulto r=.98 en X). Este resultado, aunque útil como señal, sigue siendo insuficiente como brújula.

Pero ¿todos los “palos” son para los judíos? No. El antisemitismo (y el odio) es mucho más complejo. Más aún, la interseccionalidad del desprecio hacia el “otro” agrava el cuadro de estudio. El 2,5% del corpus menciona ≥2 los principales colectivos vulnerables/estigmatizados en España (pico 4,5% en X; 1,1% en TikTok). O lo que es lo mismo, las comenciones (la práctica de “meter caña” a diestro y siniestro) incrementan significativamente la toxicidad (d≈0,40) y, además, en X, la difusión (más comentarios y más interacción). Sí, X (la antigua Twitter) es el mejor ejemplo de cómo NO hay que hacer las cosas en redes sociales.

¿Por qué es (más que) importante nuestro estudio? Porque la combinación Islam + Judaísmo es la más frecuente entre los mensajes de odio y/o tóxicos. Esto sugiere (grita, como decíamos al principio) que las transferencias/hibridaciones de odio entre minorías (étnicas, religiosas, de identidad…) son excelentes detectores de la interseccionalidad, no solo umbrales lexicográficos.

El contexto importa. Por si quedaban dudas al respecto… El conflicto Israel–Gaza (si se puede llamar así y no genocidio en toda regla contra el pueblo palestino) actúa como catalizador de picos de hostilidad, especialmente cuando el antisionismo funciona como vector que arrastra tropos clásicos (doble lealtad, negación del derecho colectivo, culpabilización de la diáspora, analogías con el nazismo). Precisamente ahí el marco IHRA/Nexus/JDA nos permite distinguir claramente el disenso legítimo del odio. No es lo mismo el sionismo que el judaísmo, de acuerdo con miles de usuarios de redes sociales (y con nuestros resultados). La consecuencia política de equivocarse (de equivocarnos) es conocida: censuras indebidas o zonas ciegas donde prospera la deshumanización.

¿Estamos seguros al 100% de lo que publicamos, decimos, afirmamos? ¡No todo son certezas! La multimodalidad introduce subdetecciones (audio, imagen, memes), las restricciones de API sesgan ventanas temporales (¡vaya negociazo tienen montado las grandes plataformas con los investigadores que necesitamos acceder a su información!) y, como no, la ironía y la dog-whistles (silbato para perros, mensajes en clave, odio implícito) que desafían a cualquier clasificador. Nuestra agenda es clara: necesitamos “tirar” de los ASR/OCR y de los modelos multimodales, de series temporales más largas, de la evaluación de coste/error por plataforma, de la extensión multilingüe y de observatorios abiertos con codebooks públicos. Hoy, más que nunca, gobernar sin medir es ideología. Y, medir mal, también lo es.

En definitiva (como solemos decir en mi pueblo para concluir una charla), en una Europa sacudida por conflictos que (no) terminan en la pantalla y por algoritmos que premian la escalada bélica, el punto no es silenciar la disputa — es delimitar las “heridas” con criterios verificables —. Demostrar que “toxicidad ≠ odio” es una invitación a recalibrar cómo moderamos, informamos, deliberamos e investigamos. Si el odio de hoy viaja en eufemismos, insinuaciones y marcos conspirativos — con baja toxicidad y alto daño —, nuestra respuesta debe estar a la altura: debemos crear marcos públicos, modelos auditables y garantías para la crítica política que no incurra en ataques de odio ni en mensajes tóxicos. ¿Apagar o encender la mecha? Vivimos en una época en la que el ENTER transmutó en GATILLO.