Desde el organismo señalan que para acabar con el discurso de odio en internet hay que centrarse en las bases sobre las que la sociedad está construida.
La ONU sugiere que se utilicen a personas en vez de algoritmos para detectar este tipo de contenido.
La Oficina de las Naciones Unidas para los Derechos Humanos alertó que los mecanismos para acabar con los discursos de odio en redes sociales podrían tener un impacto negativo en aquellas personas que se intenta proteger y pidió que estas políticas se enfoquen desde los derechos humanos.
Dentro de las críticas realizadas por el organismo internacional, apuntaron al proyecto de ley de seguridad en internet que presentó el Reino Unido en mayo por ser demasiado amplio y propiciar la eliminación de "discurso protegido" en grandes cantidades, y que debería permitirse según el derecho internacional.
Este proyecto volvió a debatirse en los últimos días, luego de que varios futbolistas ingleses recibieron insultos racistas y amenazas tras fallar penaltis en la final de la Eurocopa.
La directora de participación telemática de la ONU, Peggy Hicks, criticó que ahora "hay demandas para que esa legislación se implemente más rápidamente, como si el proyecto de ley pudiera haber protegido de alguna manera a los jugadores del racismo al que se enfrentan".
La experta enfatizó en que para acabar con el racismo hay que centrarse en las bases sobre las que la sociedad está construida y aseguró que bloquear el discurso racista mediante algoritmos tiene el peligro de que se eliminen más mensajes de los necesarios.
"La intención ha sido y debe ser hacer el espacio de internet menos amenazante para personas afrodescendientes, mujeres y otros colectivos, pero la realidad es que lo que vemos en la red es un espejo de a lo que se enfrentan las personas cada día fuera de internet", concluyó.
La directora además señaló algunos estudios que han demostrado que las herramientas automatizadas y estos detectores del discurso de odio, pueden censurar más el contenido de personas afrodescendientes que el de personas blancas.
"Tenemos que aclarar que no podemos eliminar el racismo en internet con una varita mágica", afirmó. Además explicó que suprimir el discurso de odio de una manera unificada y simple no es algo factible y que hay maneras en las que las compañías y los Estados pueden mejorar en este aspecto.
Por lo anterior, la ONU emitió recomendaciones para combatir el discurso de odio, tales como centrarse en el proceso en vez del contenido, la transparencia, asegurar que las restricciones estén basadas en la ley, sean proporcionadas y no discriminen.
También sugiere que podrían utilizarse a personas en vez de algoritmos para localizar este tipo de contenido.
La Oficina de Naciones Unidas para los Derechos Humanos no solo criticó al Reino Unido, sino también proyectos legislativos similares en Estados Unidos, Nigeria o Vietnam, uno de los países que aprovechó esta oportunidad para prohibir contenido que "distorsione la historia y cause confusión entre los ciudadanos".
Lo anterior ya que las leyes de este tipo que se están empezando a desarrollar en muchos países tienen definiciones carentes de lo que se constituye como contenido ilegal o dañino.
La oficina dirigida por la alta comisionada Michelle Bachelet, enfatizó en que estas leyes se basan demasiado en la inteligencia artificial y muchas veces delegan funciones regulatorias a empresas externas o a funcionarios del Estado sin supervisión judicial.
