Esta é a lista secreta de grupos e pessoas ‘perigosas’ do Facebook

Especialistas dizem que a política da empresa restringe o discurso de grupos marginalizados de forma muito mais dura.

Há pelo menos uma década, para evitar acusações de que ajudava terroristas a espalhar propaganda, o Facebook tem impedido os usuários de falar livremente sobre pessoas e grupos que diz promoverem a violência.

As restrições aparentemente remontam ao final de 2012, quando diante do crescente alarme no Congresso e nas Nações Unidas sobre o recrutamento online de terroristas, o Facebook acrescentou a suas Normas da Comunidade uma proibição de “organizações com um histórico de atividade terrorista ou criminosa violenta”. Essa humilde regra, desde então, transformou-se no que é conhecida como a política de Indivíduos e Organizações Perigosas, ou IOP, um conjunto de restrições generalizadas sobre o que os quase 3 bilhões de usuários do Facebook podem dizer sobre uma lista enorme e sempre crescente de entidades cuja atuação é vista como tendo ultrapassado os limites.

Nos últimos anos, a política tem sido usada em um ritmo mais veloz, inclusive contra o presidente dos Estados Unidos, e assumiu um poder quase reverencial na rede social, sendo invocado para tranquilizar os usuários sempre que arroubos de violência, do genocídio em Mianmar aos motins no Capitólio, são ligados ao Facebook. Mais recentemente, após uma série de reportagens do Wall Street Journal mostrando que a empresa sabia que contribuía para uma miríade de danos offline, um vice-presidente do Facebook citou a política como prova da diligência da empresa em um memorando interno obtido pelo New York Times.

A política IOP do Facebook se tornou um sistema que não responde a ninguém e que pune de forma desproporcional algumas comunidades.

Mas, como em outras tentativas de limitar as liberdades pessoais em nome do contraterrorismo, a política IOP do Facebook se tornou um sistema que não responde a ninguém e que pune de forma desproporcional algumas comunidades, segundo críticos. Ela se ergue sobre uma lista proibida de 4 mil pessoas e grupos, incluindo políticos, escritores, instituições de caridade, hospitais, centenas de conjuntos musicais, e figuras históricas mortas há muito tempo.

Diversos juristas e defensores das liberdades civis pediram que a empresa publicasse a lista para que os usuários saibam quando correm o risco de elogiar alguém que faz parte dela e ter uma postagem deletada ou sua conta suspensa. A empresa tem repetidamente se recusado a fazer isso, alegando que isso colocaria em risco seus funcionários e permitiria que as entidades proibidas driblassem as restrições. O Facebook não forneceu ao Intercept informações sobre qualquer ameaça específica aos seus funcionários. Além disso, o próprio Conselho de Supervisão, escolhido a dedo pela empresa, recomendou em várias ocasiões – a última delas em agosto – a publicação da lista completa, por uma questão de interesse público.

O Intercept teve acesso a uma foto da lista completa de IOP e hoje publica uma reprodução do material em sua totalidade, com apenas pequenas alterações e edições para melhorar a clareza. Também estamos publicando um conjunto de documentos sobre políticas associadas, criadas para ajudar os moderadores a decidir quais postagens devem ser apagadas e quais usuários devem ser punidos.

“O Facebook coloca seus usuários em uma posição quase impossível, dizendo-lhes que não podem postar sobre grupos e indivíduos perigosos, mas depois se recusa a identificar publicamente quem considera perigoso”, disse Faiza Patel, co-diretora do programa de liberdade e segurança nacional do Centro Brennan para a Justiça, que analisou o material.

A lista e as regras associadas parecem ser uma encarnação das angústias americanas, preocupações políticas e valores da política externa desde o 11 de setembro de 2001, disseram especialistas, embora a política do IOP seja destinada a proteger todos os usuários do Facebook e se aplique a quem reside fora dos Estados Unidos (a grande maioria). Quase todos e tudo o que está na lista é considerado um inimigo ou ameaça pelos Estados Unidos ou seus aliados: mais da metade dela consiste de supostos terroristas estrangeiros, e a livre discussão sobre eles está sujeita à mais dura censura do Facebook.

 

Segundo os especialistas, a política do IOP e a lista proibida também são muito mais frouxas em relação a comentários sobre milícias anti-governamentais predominentemente brancas do que quanto a grupos e indivíduos listados como terroristas, que são predominantemente do Oriente Médio, do Sul da Ásia e muçulmanos, ou aqueles que supostamente fazem parte de grupos criminosos violentos, que são predominentemente negros e latinos.

Os materiais mostram que o Facebook tem “mão de ferro para algumas comunidades e uma mão mais comedida para outras”, disse Ángel Díaz, um professor da Faculdade de Direito da Universidade da Califórnia em Los Angeles, a UCLA, que pesquisou e escreveu sobre o impacto das políticas de moderação do Facebook em comunidades marginalizadas.

O diretor de políticas de contraterrorismo e organizações perigosas do Facebook, Brian Fishman, disse numa declaração escrita que a empresa mantém a lista em segredo porque “esse é um ambiente adverso, por isso tentamos ser os mais transparentes possíveis, ao mesmo tempo que damos prioridade à segurança, limitando riscos legais e prevenindo oportunidades para os grupos contornarem as nossas regras”. Ele acrescentou: “Não queremos terroristas, grupos de ódio ou organizações criminosas na nossa plataforma, e é por isso que os proibimos e removemos conteúdos que os elogiam, representam ou apoiam. Uma equipe de mais de 350 especialistas no Facebook está concentrada em deter estas organizações e avaliar ameaças emergentes. Atualmente, banimos milhares de organizações, incluindo mais de 250 grupos de supremacia branca nos níveis mais altos das nossas políticas, e atualizamos regularmente as nossas políticas e organizações que se enquadram nas condições para serem banidas”.

Embora os especialistas que revisaram o material digam que a política do Facebook é indevidamente obscurecida e punitiva para os usuários, ela é, no entanto, um reflexo de um verdadeiro dilema enfrentado pela empresa. Após o genocídio em Mianmar, a empresa reconheceu que talvez tenha se tornado o sistema mais poderoso já montado para a distribuição algorítmica global de incitação violenta. Não fazer algo diante dessa realidade seria visto como excessivamente negligente por uma grande parcela das pessoas — mesmo que as tentativas do Facebook de controlar o discurso de bilhões de usuários de internet ao redor do mundo sejam vistas como coisas dignas de uma autocracia. A lista IOP representa uma busca por equilibrar tudo isso por parte de uma empresa com uma concentração de poder sem precedentes sobre o discurso global.

Restrições mais severas para populações marginalizadas e vulneráveis

A lista, a base da política de indivíduos e organizações perigosas do Facebook, é em muitos aspectos o que a empresa já descreveu no passado: uma coletânea de grupos e líderes que ameaçaram ou se envolveram em derramamento de sangue. O retrato analisado pelo Intercept é separado nas categorias Ódio, Crime, Terrorismo, Movimentos Sociais Militarizados e Atores Violentos Não Estatais. Essas categorias foram organizadas em um sistema de três níveis sob regras implantadas pelo Facebook no final de junho, com cada nível correspondendo a restrições de fala de severidade variável.

Mas, enquanto rótulos como “terrorista” e “criminoso” são conceitualmente amplos, eles parecem mais como substitutos raciais e religiosos uma vez que se vê como eles são aplicados a pessoas e grupos da lista, segundo os especialistas, o que aumenta a probabilidade de que o Facebook esteja colocando limitações discriminatórias à liberdade de expressão.

Independentemente do nível, ninguém na lista IOP está autorizado a manter uma presença nas plataformas do Facebook, nem os usuários estão autorizados a se apresentar como membros de qualquer grupo da lista. Os níveis determinam, na verdade, o que outros usuários estão autorizados a dizer sobre as entidades proibidas. O nível 1 é o mais estritamente limitado; os usuários não podem expressar nada considerado como elogio ou apoio a grupos e pessoas da camada 1, mesmo para atividades não violentas (conforme a classificação determinada pelo Facebook). O nível 1 inclui supostos grupos de terror, ódio e criminosos e seus supostos membros, com terror definido como “organizar ou defender a violência contra civis”, e o ódio como “desumanizar repetidamente ou defender o mal” contra pessoas com características protegidas. A categoria criminosa de nível 1 é quase inteiramente composta por gangues de rua dos Estados Unidos e cartéis de droga latino-americanos, predominantemente integradas por negros e latinos. A categoria terrorista do Facebook, que representa 70% do nível 1, consiste esmagadoramente de organizações e indivíduos do Oriente Médio e do Sul da Ásia — que estão representados de forma desproporcional em toda a lista IOP, em todos os níveis, onde cerca de 80% dos indivíduos são rotulados como terroristas.

Leia a matéria na íntegra se desejar:

 https://theintercept.com/2021/10/12/lista-grupos-pessoas-perigosas-facebook/