Gobiernos y empresas tecnológicas firmaron el Acuerdo de Christchurch la semana pasada, una iniciativa voluntaria que busca combatir la circulación de contenidos violentos y el terrorismo en línea.
El nombre la iniciativa, promovida por la Primer Ministro de Nueva Zelanda, Jacinda Ardern, y el Presidente de Francia, Emmanuel Macron, alude al ataque a la mezquita de Chistchurch, ocurrido el 15 de marzo en Australia y emitido en vivo a través de Facebook Live.
“La convocatoria delinea compromisos colectivos voluntarios por parte de gobiernos y proveedores de servicios en línea que buscan abordar el tema del contenido en línea terrorista y de violencia extrema, y prevenir el abuso de Internet como ocurrió en el momento y luego del ataque a Christchurch”, señala el documento.
Además, expresa que los compromisos “deben ser consistentes con los principios de una Internet libre, abierta y segura, sin comprometer los derechos humanos y las libertades fundamentales, incluyendo la libertad de expresión”.
A través del Acuerdo los gobiernos firmantes se comprometieron a “contrarrestar las fuerzas que impulsan el terrorismo y el extremismo violento mediante el fortalecimiento de la resiliencia y la capacidad de inclusión de nuestras sociedades para permitirles resistir ideologías terroristas y extremistas violentas” para lo cual buscarán garantizar la implementación de regulaciones que prohíban la producción o diseminación de contenido terrorista y extremismo violento en sintonía con la normativa internacional de derechos humanos.
También se plantea que los gobiernos alentarán a los medios de comunicación a aplicar estándares éticos para evitar la amplificación de contenido violento y terrorista.
Otro de los compromisos gubernamentales pasa por considerar acciones para prevenir el uso de servicio en línea para prevenir la diseminación de contenido terrorista y violento a través de acciones colaborativas como actividades para generar conciencia y capacidades para los proveedores de servicio más pequeños; desarrollar estándares de la industria o marcos voluntarios; y regulaciones o políticas consistentes con una Internet libre, abierta y segura y con las leyes internacionales de derechos humanos.
Por su parte, las empresas que participaron del acuerdo -entre las que se encuentran Facebook, Google, Amazon, Twitter y Youtube, entre otras- se comprometieron a adoptar medidas específicas, entre ellas la remoción permanente, para prevenir la diseminación de este tipo de contenidos, pero sin atentar contra mecanismos de apelación en forma que no afecte a las libertades fundamentales.
También acordaron proveer mayor transparencia en la definición de estándares comunitarios o términos de servicio que, a su vez, sean consistentes con la regulación internacional en derechos humanos. En este sentido, se señala la priorización en la moderación de contenido terrorista y violento; cierre de cuentas; proveer mecanismos eficientes de queda y proceso de apelación sobre la remoción de contenido.
A su vez se señala la implementación de medidas inmediatas para mitigar riesgos específicos que ciertos contenidos de este tipo pueden generar, lo que incluye la identificación del contenido en tiempo real.
La revisión del funcionamiento de los algoritmos que puedan conducir a los usuarios a la amplificación de contenidos violentos, también está contemplada en el acuerdo. En este sentido se alude a la construcción de mecanismos para reportar contenidos, diseñados en un proceso de múltiples partes.
La iniciativa contó con el apoyo de la Comisión Europea y 17 gobiernos: Australia, Canadá, Francia, Alemania, Indonesia, India, Irlanda, Italia, Japón, Jordania, Países Bajos, Nueva Zelanda, Noruega, Senegal, España, Suecia y Reino Unido. En cambio, Estados Unidos se negó a firmar porque consideró que la iniciativa va en contra de la Primera Enmienda sobre libertad de expresión.
Por parte de las empresas firmaron Amazon, Daily Motion, Facebook, Google, Microsoft, Qwant, Twitter y Youtube.
Si bien las organizaciones de la sociedad civil tuvieron la oportunidad de participar del proceso de elaboración del acuerdo en una reunión convocada en París el 14 de mayo, se criticó la falta de tiempo para poder participar adecuadamente de la consulta.
Gobiernos y empresas de Internet internacionales acordaron combatir contenidos violentos y extremismo en línea
“Los gobiernos de Francia y Nueva Zelanda, que lideraron el boceto de texto y reunieron a los actores, no crearon el documento a través de una consulta pública inclusiva. En cambio, los que guiaron la conversación desarrollaron recomendaciones para gobiernos y compañías tecnológicas a puertas cerradas… el poco tiempo y falta de información para prepararse obstaculizó la capacidad de proveer aportes valiosos [desde la sociedad civil]. Adicionalmente, mantuvo a la sociedad civil separada de otros actores claves -como las compañías y gobiernos- limitando drásticamente la habilidad de involucrarse significativamente”, sostuvo la organización global Access Now.
Por su parte, Electronic Frontiers Foundation (EFF), apuntó de forma similar que “la sociedad civil fue invitada tarde a la conversación… Dicho eso, la Primera Ministra de Nueva Zelanda, Jacinta Ardern asistió personalmente y se involucró directamente con los miembros de la sociedad civil por varias horas para entender nuestras preocupaciones sobre la iniciativa- un movimiento sin precedentes en nuestra experiencia”.
Ambas organizaciones destacaron como acierto de la iniciativa la mención explícita de los derechos humanos y las obligaciones de transparencia tanto para gobiernos como para empresas. No obstante plantearon que uno de los puntos débiles del acuerdo tiene que ver con la falta de precisiones sobre quién define qué se considera “terrorismo” y “extremismo violento”, entre otras cuestiones.
Este aspecto fue planteado en el documento conjunto presentado por las organizaciones de la sociedad civil como aporte para el Acuerdo que finalmente se firmó. Allí se señaló que “la definición de terrorismo y violencia extremista es extremadamente importante y muy problemática si deja a la interpretación individual de los gobiernos”.
Otro de los aspectos señalados como problemáticos por parte de la sociedad civil fue la necesidad de establecer una distinción entre proveedores de servicios en línea como redes sociales y proveedores de infraestructura por un lado, y la importancia de excluir del acuerdo la utilización de filtros de subida de contenidos, que resulta inconsistentes con la perspectiva de derechos humanos.
