Los problemas de Facebook en el sur de Asia

Michael Kugelman

Octubre 28, 2021

Los documentos de Facebook filtrados recientemente por la denunciante de la compañía Frances Haugen detallan el fracaso de larga data del gigante de las redes sociales para frenar el discurso de odio. Después de las apariciones de Haugen ante los legisladores estadounidenses y un comité del Parlamento del Reino Unido , gran parte del debate se ha centrado en el impacto de las políticas de Facebook en Occidente. Pero Facebook también ha fracasado en el sur de Asia, y de formas más peligrosas con costos incluso más altos que en Occidente.

La intolerancia religiosa, los poderosos grupos de odio y la rápida penetración de Internet han creado una tormenta perfecta para la difusión del discurso de odio en toda la región y en la India en particular. En muchos países del sur de Asia, Facebook es la red social más utilizada. Pero la compañía no ha desarrollado la capacidad para monitorear a fondo el discurso de odio en los idiomas del sur de Asia. A menudo no logra eliminar el contenido inflamatorio, que ha movilizado a las multitudes y provocado una violencia mortal. Estos fracasos también fortalecen a los partidos políticos de línea dura para los que la retórica divisiva es políticamente conveniente, incluido el gobernante Partido Bharatiya Janata (BJP) de la India.

India es el mercado más grande de Facebook por usuarios y sigue siendo uno de sus mercados de más rápido crecimiento. Como resultado, también es el epicentro de los problemas de la empresa con el discurso de odio. La semana pasada, el Wall Street Journal informó que los investigadores de Facebook encontraron contenido inflamatorio que coincidió con disturbios comunales en 2020 que mataron a 53 personas en Nueva Delhi. Los usuarios individuales, los grupos extremistas y los partidos políticos regularmente ganan prominencia al compartir discursos de odio e información errónea en la plataforma, especialmente contra los musulmanes.

Esta tendencia se remonta a 2015, cuando un justiciero nacionalista hindú azotó a un trabajador musulmán en el estado de Uttar Pradesh, en India, mientras la gente filmaba el incidente y lo subía a Facebook, donde se ganó el elogio de usuarios de ideas afines. Meses después, el justiciero se convirtió en un líder estatal superior de Bajrang Dal, un grupo militante juvenil nacionalista hindú.

Facebook carece tanto de la capacidad como de la voluntad para vigilar adecuadamente el discurso de odio en el sur de Asia. El contenido inflamatorio a menudo pasa desapercibido porque el software de monitoreo de la empresa no puede procesar los idiomas locales. En India, Facebook también se ha negado a actuar contra los políticos del partido gobernante que publican discursos de odio por temor a dañar sus perspectivas comerciales en el país, según informóel Wall Street Journal el año pasado.

Las relaciones personales entre la empresa y los líderes políticos también pueden desempeñar un papel: Bloomberg informó sobre los estrechos vínculos entre los ejecutivos de Facebook y los funcionarios del gobierno indio, incluidos los propios esfuerzos de Facebook para ayudar a desarrollar la "presencia en línea" del primer ministro indio Narendra Modi. El ex alto funcionario de políticas públicas de la compañía en India también fue acusado de respaldar al BJP.

Tales revelaciones alimentan las sospechas de que Facebook brinda ventajas electorales al partido gobernante de la India, aunque sea de manera indirecta. En vísperas de las elecciones de India de 2019, que el BJP ganó de manera aplastante, Facebook reveló que había eliminado contenido falso asociado con el partido opositor Congreso Nacional Indio, pero no con el BJP. A la luz de las revelaciones de Haugen, esta semana el partido del Congreso Nacional Indio pidió una investigación para buscar evidencia de que Facebook “influye” en las elecciones indias.

Sin embargo, la relación entre el gobierno de Modi y Facebook no es la que solía ser. Durante el primer mandato de Modi, se reunió dos veces con el director ejecutivo de Facebook, Mark Zuckerberg. Eso no sucedería hoy: a principios de este año, WhatsApp demandó al gobierno por nuevas leyes de Internet que, según dijo, comprometen la privacidad del usuario. Pero los críticos aún albergan sospechas de que la plataforma sigue sesgada hacia el BJP. Durante la crisis de COVID-19, una campaña que usaba #ResignModi fue bloqueada temporalmente en Facebook, aumentando este sentimiento.

Las fallas de Facebook en la región no se limitan a India. En 2019, los musulmanes de Bangladesh se involucraron en disturbios cerca de su capital, Dhaka, en respuesta a una publicación de Facebook despectiva sobre el profeta Mahoma, que provocó cuatro muertes. A principios de este mes, dos hombres confesaron haber incitado a la violencia contra la comunidad hindú al publicar contenido incendiario en las redes sociales.

En Sri Lanka, una investigación realizada por un grupo de derechos humanos descubrió que el discurso de odio contra los musulmanes y las noticias falsas en Facebook y otras plataformas pueden haber contribuido a los enfrentamientos violentos en el centro de Sri Lanka en 2018, lo que resultó en al menos tres muertes y daños en mezquitas y Negocios musulmanes. Los alborotadores supuestamente usaron Facebook para coordinar ataques.

Y en Pakistán, la gente ha utilizado la plataforma para avivar el odio contra la minoría religiosa ahmadi, lo que ha provocado "alborotos" que han provocado incendios y muertes. En 2018, un adolescente paquistaní mató a un hombre ahmadi después de publicar un video en Facebook en el que decía que el profeta Mahoma le había ordenado que "acabara" con el hombre. Facebook solo eliminó el video después de que el resto del mundo lo informara.

La epidemia de discursos de odio en línea del sur de Asia no es del todo culpa de Facebook. La empresa no se hace responsable de las condiciones que generan intolerancia en la región. Los gobiernos también pueden hacer más para mejorar el conocimiento de las redes sociales, de modo que los usuarios puedan distinguir mejor entre noticias falsas y precisas. Desafortunadamente, en una región que ha dado un giro autoritario, muchos gobiernos se han aprovechado de las preocupaciones sobre el contenido en línea no regulado para reprimir la disidencia.

No obstante, Facebook tiene una gran crisis en sus manos: es una plataforma para que el discurso de odio se extienda por todas partes. Hay casi 500 millones de usuarios de Facebook en el sur de Asia, incluidos más de 340 millones de usuarios en India. Dhaka tiene el segundo mayor número de usuarios activos de Facebook de cualquier ciudad del mundo. (Estos números aumentan aún más cuando se tienen en cuenta los servicios propiedad de Facebook, como WhatsApp). El sur de Asia presenta enormes oportunidades para Facebook, pero en el contexto de la intolerancia religiosa y las tensiones comunitarias, parece un barril de pólvora.

La primera orden del día de Facebook en el sur de Asia debería ser la asignación de más recursos para abordar el problema. Solo el 13 por ciento del presupuesto de Facebook utilizado para clasificar la información errónea está destinado actualmente fuera de los Estados Unidos. Dado el enorme volumen de usuarios de Facebook y la desinformación solo en el sur de Asia, eso es una miseria, lo que sugiere que la empresa simplemente no comprende el gran problema que tiene en sus manos en el sur de Asia.

El artículo ha sido traducido por L. Domenech, y se puede leer en su versión original en Foreing Policy