Discursos de odio:

Podemos afirmar sin temor a equivocarnos que, al menos una vez, todos hemos escuchado la expresión “discurso de odio” (o “hate speech”, en inglés). Sea gracias a la tele, la radio, alguna lectura o navegar por internet, seguramente conocemos la idea, al margen de que sepamos o no con precisión a qué alude dicho concepto.

Como es de imaginar, los discursos de odio se manifiestan en una amplia gama de vías de comunicación. Sin embargo, a los fines de este boletín y el enfoque que nos interesa abordar, nos centraremos en los discursos de odio online; es decir, aquellos que se manifiestan en el plano digital (en su mayoría, a través de redes sociales).

Empecemos por definir el concepto: ¿a qué llamamos “discurso de odio”?

Para intentar dar respuesta a esta pregunta, es necesario tener en cuenta que la propia tarea de precisar la noción de “discurso de odio” resulta problemática y controvertida. Esto se debe, fundamentalmente, a que el término “odio” incluido en el concepto, lo carga de emocionalidad y subjetividad, con todos los problemas que ello implica. Sumado, además, al hecho de que siempre resulta difícil delinear con exactitud y sin caer en zonas contradictorias ni entrar en ambigüedades, nociones de carácter ético y, más aún cuando se las intenta enmarcar en el plano jurídico a los fines –tal como sucede respecto del tema en cuestión- de garantizar el libre ejercicio de derechos y libertades de cada uno de los habitantes de un país.   

El discurso de odio no es nuevo ni una consecuencia de las redes sociales. La llegada de nuevos sistemas de comunicación no hace más que brindar otro espacio en el cual se puedan manifestar problemáticas sociales de larga data con nuevos formatos.

De acuerdo con varios estudios y análisis de diferentes especialistas, podemos decir que “las definiciones que tienen mayor aceptación a nivel internacional se pueden agrupar en dos tendencias principales: 1) aquellas que definen el discurso del odio en un sentido más amplio y expansivo, e incluyen cualquier expresión que promueva o justifique el odio por motivos racistas, xenófobos, religiosos, de género, orientación sexual o discapacidad; y 2) aquellas que lo definen de una manera más restrictiva y precisa, incluyendo sólo aquellas formas de expresión que, en contextos determinados de inestabilidad, puedan contribuir a desencadenar episodios violentos contra un grupo de personas por razón de su pertenencia a uno de los grupos señalados.

La diferencia fundamental entre ambas se podría sintetizar en la dialéctica contenido-contexto, y en el mayor o menor riesgo de que los mensajes desencadenen acciones violentas. La primera de las tendencias conceptuales define el discurso del odio atendiendo exclusivamente a su contenido, mientras que la segunda considera que lo que convierte una determinada expresión en discurso del odio es el riesgo manifiesto de que, dado el contexto histórico-social en el que se emite, provoque episodios violentos. El contexto, efectivamente, determina en gran medida el daño que determinadas expresiones y manifestaciones pueden llegar a ocasionar, que puede oscilar desde el daño emocional hasta la provocación de escaladas de violencia masiva.”[1]

“La educación y la formación generan grandes expectativas por su potencial de combinar de manera óptima la responsabilidad con la libertad y la participación.” - Isasi y Juanatey

Como podemos ver, nos enfrentamos a una problemática sumamente compleja, no solo por la naturaleza de carácter “emocional” que funda la cuestión –tal como explicábamos al comienzo- sino porque esta clase de expresiones ponen en tensión tres de los derechos fundamentales que debe garantizar todo sistema democrático, a saber: la igualdad, la dignidad humana y la libertad de expresión. En tal sentido, podemos pensar cuáles son las dimensiones que constituyen al fenómeno de los discursos de odio atendiendo a estos tres ejes.

Ahora bien, ¿cuáles son los aspectos particulares del discurso de odio online?

Como es de imaginar, tendrá mucho en común con otras problemáticas derivadas del uso de internet y las TIC que ya hemos analizado, sin embargo, es importante recalcar algunos puntos fundamentales que son propios del funcionamiento de la red y, en este caso, brindan las condiciones necesarias para que esta clase de expresiones tengan lugar.

Nos referimos, en principio, a la posibilidad ilimitada de comunicación y la descentralización que ofrecen las diferentes plataformas digitales. Antes de la llegada de Internet y tal clase de tecnologías, si bien existían los discursos inspirados en la violencia y el desprecio hacia otros –ello no es nuevo; la llegada de nuevos sistemas de comunicación no hace más que brindar otro espacio en el cual se puedan manifestar problemáticas sociales de larga data con nuevos formatos-, permanecían en el ámbito de lo privado. Hoy en día, la esfera de lo público se ha extendido significativamente y ha incluido también tales declaraciones, dando lugar a que cualquier persona de expresar lo que desee, cuando lo desee con la posibilidad de que tal mensaje adquiera altos niveles de audiencia gracias al efecto multiplicador tan característico de dichas plataformas.

Esta clase de expresiones ponen en tensión tres de los derechos fundamentales que debe garantizar todo sistema democrático: la igualdad, la dignidad humana y la libertad de expresión.

A esto se suman varias de las características del propio funcionamiento de la web, como son: “la permanencia de los contenidos, la itinerancia entre las diferentes plataformas, el uso de pseudónimos, el anonimato y la transnacionalidad”[2] Tal como expresan los autores citados (Alex Cabo Isasi y Ana García Juanatey), tanto la permanencia como la itinerancia –es decir,  la conexión y sincronización que tienen las plataformas entre sí y hacen posible que los contenidos se compartan de una a otra muy fácilmente- permiten aumentar el posible daño de las expresiones de odio. Mientras que el anonimato, el uso de pseudónimos y la transnacionalidad –tanto de los usuarios como de los servidores en los cuales se apoya la operatividad de Internet y las tecnologías derivadas-, vuelven muy difícil la tarea de identificar y perseguir a los responsables de esta clase de discurso.

No es difícil imaginar el amplio abanico de daños que pueden ocasionar los discursos de odio. Como expresan Isasi y Juanatey, desde el punto de vista de las víctimas concretas existe, por un lado, el daño directo a su sistema emocional y psicológico y, por otro, el daño indirecto el cual atenta contra la reputación de las personas y veja su dignidad. No obstante ello, considerando el problema desde una óptica más general, este fenómeno produce, reproduce y perpetra históricos actos de discriminación y marginalización basados en estereotipos y estigmatizaciones, lamentablemente, muy frecuentes. Resulta evidente que la profundización de tales “cánones” derivados de prejuicios y el temor a lo distinto, a aceptar lo diverso, contribuye a la deshumanización de los colectivos afectados poniendo en riesgo directamente los derechos fundamentales que mencionábamos más arriba.

 Los generadores más habituales de discursos de odio online son: los miembros de grupos extremistas, los llamados haters o trolls y los usuarios que acostumbran a expresar sus posiciones y críticas de modo agresivo y extremo.

En palabras de Isasi y Juanatey, “mediante la proliferación y aceptación del discurso del odio se produce una reducción de empatía hacia los colectivos deshumanizados, y como consecuencia, se puede generar el caldo de cultivo adecuado para justificar actos discriminatorios, abusos y actos violentos de diversa naturaleza. […] Si bien no todo discurso del odio desencadena episodios de violencia, lo que sí parece evidente es que raramente se producen episodios de crímenes de odio, sin una previa estigmatización y deshumanización de las víctimas.”

Como ya hemos adelantado y salta a la vista a partir de lo expuesto, se trata de una problemática profundamente compleja que, en gran parte, se funda en el uso irreflexivo y basado en la inconsciencia, de muchos usuarios y usuarias habituales de la web. Nos referimos, concretamente, a miembros de grupos extremistas y fundamentalistas que apoyan diferentes causas y usan las redes no solo para expresar sus principios sino también para perseguir y, en muchas ocasiones, asechar a todo aquel que disienta con tales principios o bien, sea considerado una amenaza para los mismos. A los conocidos “haters” o “trolls” que “se dedican obsesivamente a atacar y agredir verbalmente a individuos concretos (en gran medida, personas famosas), o a colectivos a los que desprecian por su origen étnico, su religión, etc.”[3]. Y a quienes acostumbran a plasmar en las redes sus posiciones y críticas en relación a diversos asuntos con un lenguaje extremo y agresivo.

Se trata de una problemática profundamente compleja que se funda en el uso irreflexivo y basado en la inconsciencia, de muchos usuarios y usuarias habituales de la web.

Volviendo el foco a los derechos fundamentales que mencionábamos –igualdad, dignidad humana y libertad de expresión- y considerando de qué manera cada uno de los actores aquí mencionados, tanto víctimas como victimarios, pueden verse afectados y limitados en los mismos, resulta imprescindible que los Estados y organismos internacionales continúen buscando la manera de desarrollar e implementar políticas y estrategias públicas en pos de armonizar –lo más posible- los distintos intereses y garantizar, de ese modo, los derechos a cada uno de los usuarios. Claro está, que no se trata de una tarea para nada sencilla.

De todas maneras, desde BA-CSIRT consideramos que más allá de las intervenciones de carácter oficial definitivamente necesarias, también es sumamente importante el rol y la participación de cada uno de los miembros de la comunidad de Internet, y eso nos incluye a todos. Ese es el desafío que nos mueve a Impulsar la responsabilidad digital. En tal sentido, nos sumamos a los autores cuando expresan: “con el objetivo de cambiar las percepciones y actitudes frente al odio, tienen especial importancia las estrategias educativas y formativas, ya sean dirigidas al desarrollo de lo que se ha denominado como “ciudadanía digital”, o dirigidas a la formación de personas ya concienciadas, que puedan ejercer de activistas en el espacio online. Como es habitual en el campo de la intervención social, la educación y la formación generan grandes expectativas por su potencial de combinar de manera óptima la responsabilidad con la libertad y la participación. El reto, para no quedarse en el terreno de las buenas intenciones, está en cómo dotarlas de contenido concreto que logre los resultados deseados.”[4] ■

[1] Cabo Isasi A. y García Juanatey A. 2016, El discurso del odio en las redes sociales: un estado de la cuestión. Págs. 6 y 7. Disponible para su lectura en: https://plataformaciudadanacontralaislamofobia.files.wordpress.com/2017/03/informe_discurso-del-odio_es.pdf

[2] Ib. Pág. 7.

[3] Ib. Pág. 9.

[4] Ib. Pág. 36.