Discurso de Odio

[Publicado el 8 de julio de 2020 en Reforma]

Siempre ha existido el discurso de odio y en los genocidios de la Alemania nazi, la guerra de Bosnia y en Ruanda han sido factor fundamental cuando se difunde en los medios. El discurso de odio fomenta la discriminación, la exclusión, la venganza y la violencia en contra de personas por razón de religión, nacionalidad, etnia, género, entre otros. A través del internet y las redes sociales se potencia el discurso de odio con todas las afectaciones que eso conlleva, porque la cantidad de estos mensajes a la que está expuesta la sociedad puede normalizarlo y hasta justificarlo como si fuera parte de una “democracia”. México también ha sido tierra fértil para el discurso de odio.

Tipos. El burdo es el discurso de odio que directamente y sin pudor alguno discrimina y que puede incitar a la violencia. Pero el gota a gota puede ser más pernicioso. Este discurso de odio no se presenta como tal, sino que va sembrando poco a poco imágenes, noticias que pretenden que a cierto grupo se le perciba como nocivo. Por ejemplo, se difunde una nota que migrantes centroamericanos atacaron a la Guardia Nacional, después un tuit dice que el robo a casa habitación fue por migrantes hondureños, luego se postea en Facebook (FB) que la caravana migrante esconde miembros de la Mara Salvatrucha. ¿Resultado? La sociedad mexicana ve con temor, recelo y hasta desprecio a los migrantes. Ese es el discurso de odio gota a gota, difícilmente concebido como tal, pero que acarrea las mismas consecuencias que el burdo.

Inteligencia Artificial (IA). Esta ayuda a detectar y bajar de las plataformas el discurso de odio burdo, ayuda a priorizar contenidos que deben ser revisados por personas e identifica tendencias en temas. Pero hoy día, la IA puede evadirse cuando sustituyen una letra o por un número 0, o por introducir en la palabra un * u otro signo.

Anonimato. “Lo peor que puede haber es el anonimato, el tirar la piedra y esconder la mano, eso es de hipócritas” dijo el presidente Andrés Manuel López Obrador. El anonimato es una moneda de 2 caras. El anonimato ha contribuido a difundir información de interés público que de otra manera no se habría conocido, pero también por el anonimato se han realizado ataques, difundido noticias falsas y discursos de odio. A la luz del derecho a la información es preferible el anonimato, pero deben contarse con herramientas eficaces para identificar y sancionar el uso de redes sociales fuera de los límites permitidos de la libertad de expresión en un régimen democrático.

Plataformas. FB, YouTube, Twitter y demás plataformas tienen procedimientos para denunciar discurso de odio, el cual debe bajarse y el usuario que lo colocó puede apelar ante dichas plataformas. Se ha cuestionado la eficacia de estos mecanismos a tal grado que FB enfrenta un boicot de publicidad por grandes empresas que cuestionan si FB ha hecho lo suficiente para detener el discurso de odio y que se oponen a que su publicidad aparezca al lado de contenidos con ese tipo de discurso (www.stophateforprofit.org). Como respuesta FB hace unos días anunció una auditoría independiente para identificar cuánto discurso de odio y noticias falsas están en su plataforma, así como otra auditoría para evaluar que tanto protege que la publicidad de sus anunciantes se coloque junto a contenido dañino.

¿Remedios? La exigencia de mayor transparencia y escrutinio de las medidas que implementen las plataformas, el conocer qué contenido fue bloqueado y por qué, auditorías independientes, es una parte del remedio. Se propone que se contrareste el discurso de odio con discursos para la paz, pero esto ayuda limitadamente porque es como si una persona grita y piden que la otra grite también para neutralizar. Otra más es la educación. Finalmente, en Reino Unido se está considerando si debiera OFCOM como regulador de telecomunicaciones establecer regulación para que las plataformas aseguren que los usuarios y no usuarios estén libres de daños con motivo de discursos de odio y otros supuestos.

Print Friendly
Entrada anterior:
Entrada siguiente:

Deja un comentario